ایلون مسک کی اے آئی چیٹ بوٹ گرو نے غزہ کی بھوک سے مرنے والی لڑکی کی تصویر پر غم و غصے کو جنم دیا

پیرس: غزہ میں بھوک سے مبتلا نوجوان لڑکی کی ایک دل دہلا دینے والی تصویر نے آن لائن سخت ردعمل پیدا کیا ہے ، نہ صرف اس کی وجہ سے اس کی تکلیف کی وجہ سے ، بلکہ اس وجہ سے کہ ایلون مسک کی عی چیٹ بوٹ ، گروک نے غلط کہا کہ یہ تصویر برسوں پہلے یمن کی ہے۔

یہ اختلاط سوشل میڈیا میں تیزی سے پھیل گیا ، جس سے بہت سارے لوگوں کو ناراض اور پریشان ہو گئے۔ کچھ نے چیٹ بوٹ پر الزام لگایا کہ وہ الجھن میں اضافہ کرنے اور غلط معلومات کو ایسے وقت میں پھیلانے کا الزام لگاتے ہیں جب جذبات پہلے ہی زیادہ چل رہے ہیں۔

اے ایف پی کے فوٹو جرنلسٹ عمر القٹا کی اس تصویر میں غزہ میں ایک کنکال ، کم عمر لڑکی دکھائی گئی ہے ، جہاں اسرائیل کی ناکہ بندی نے فلسطینی علاقے میں بڑے پیمانے پر قحط کے خوف کو ہوا دی ہے۔

لیکن جب سوشل میڈیا صارفین نے گروک سے پوچھا کہ یہ کہاں سے آیا ہے تو ، ایکس باس ایلون مسک کی مصنوعی ذہانت چیٹ بوٹ کو یقین تھا کہ یہ تصویر تقریبا سات سال قبل یمن میں لی گئی تھی۔

اے آئی بوٹ کے غلط ردعمل کو بڑے پیمانے پر آن لائن شیئر کیا گیا تھا ، اور بائیں بازو کے فلسطین کے حامی فرانسیسی قانون ساز ، ایمیرک کارون پر الزام لگایا گیا تھا کہ وہ اسرائیل-ہمس جنگ پر تصویر پوسٹ کرنے کے لئے نامعلوم معلومات پھیلائے۔

ایک ایسے وقت میں جب انٹرنیٹ استعمال کرنے والے تصاویر کی تصدیق کے لئے تیزی سے AI کی طرف رجوع کررہے ہیں ، تو اس پر ٹکنالوجی غلطی سے پاک ہونے سے دور ہونے پر گروک جیسے اعتماد کے اوزاروں کے خطرات کو اجاگر کرتی ہے۔

گروک نے کہا کہ اس تصویر میں اکتوبر 2018 میں سات سالہ یمنی بچہ امل حسین کو دکھایا گیا تھا۔

در حقیقت ، اس تصویر میں 2 اگست ، 2025 کو غزہ شہر میں نو سالہ مریم دواس کو غزہ شہر میں اپنی والدہ موڈراللا کے بازوؤں میں دکھایا گیا ہے۔

اس کی والدہ نے بتایا کہ جنگ سے پہلے ، حماس کے 7 اکتوبر 2023 کو اسرائیل پر حملے سے بھڑک اٹھے ، مریم کا وزن 25 کلو گرام تھا۔ اے ایف پی.

آج ، اس کا وزن صرف نو ہے۔ موڈلالا نے اے ایف پی کو بتایا – اور یہ بھی "ہمیشہ دستیاب نہیں” ہے۔

اس کے غلط ردعمل پر چیلنج کیا گیا ، گروک نے کہا: "میں جعلی خبریں نہیں پھیلاتا I میں اپنے جوابات تصدیق شدہ ذرائع پر قائم کرتا ہوں۔”

چیٹ بوٹ نے بالآخر ایک جواب جاری کیا جس نے غلطی کو تسلیم کیا ، لیکن اگلے دن مزید سوالات کے جواب میں ، گروک نے اس دعوے کو دہرایا کہ یہ تصویر یمن کی ہے۔

چیٹ بوٹ نے اس سے قبل ایسا مواد جاری کیا ہے جس میں نازی رہنما ایڈولف ہٹلر کی تعریف کی گئی تھی اور تجویز کیا تھا کہ یہودی کنیت والے افراد آن لائن نفرت پھیلانے کا زیادہ امکان رکھتے ہیں۔

بنیاد پرست دائیں تعصب

تکنیکی اخلاقیات کے ایک محقق لوئس ڈی ڈیسباچ نے کہا کہ گروک کی غلطیاں اے آئی ٹولز کی حدود کو واضح کرتی ہیں ، جن کے افعال "بلیک بکس” کی طرح ناقابل تلافی ہیں۔

ہیلو چیٹ ، "ہمیں قطعی طور پر نہیں معلوم کہ وہ یہ یا اس کا جواب کیوں دیتے ہیں ، اور نہ ہی وہ اپنے ذرائع کو کس طرح ترجیح دیتے ہیں۔”

انہوں نے کہا کہ ہر اے آئی کے پاس اس معلومات سے منسلک تعصب ہوتا ہے جس کی تربیت کی گئی تھی اور اس کے تخلیق کاروں کی ہدایات۔

محقق کے خیال میں ، گروک-مسک کے زائی اسٹارٹ اپ کے ذریعہ تیار کردہ-جنوبی افریقہ کے ارب پتی ، امریکی صدر ڈونلڈ ٹرمپ کے سابقہ مجاز اور بنیاد پرست حق کے لئے ایک معیاری برداشت کرنے والے ، جنوبی افریقہ کے ارب پتی کے نظریہ کے ساتھ انتہائی واضح تعصبات "دکھاتا ہے۔

ڈیسباچ نے کہا کہ چیٹ بوٹ سے کسی تصویر کی اصل کی نشاندہی کرنے کے لئے پوچھنا اسے اپنے مناسب کردار سے نکال دیتا ہے۔

"عام طور پر ، جب آپ کسی شبیہہ کی اصلیت کی تلاش کرتے ہیں تو ، یہ کہہ سکتا ہے: ‘یہ تصویر یمن میں لی جاسکتی تھی ، اسے غزہ میں بھی لیا جاسکتا تھا ، کسی بھی ملک میں لیا جاسکتا تھا جہاں قحط ہے’۔”

ماہر نے کہا کہ اے آئی لازمی طور پر درستگی کے خواہاں نہیں ہے – "یہ مقصد نہیں ہے۔”

جولائی 2025 میں لی گئی القاعدہ کے ذریعہ فاقہ کشی والے غزان بچے کی ایک اور اے ایف پی تصویر ، پہلے ہی غلط طور پر واقع تھی اور اس کی تاریخ گرو نے یمن ، 2016 تک کی تھی۔

اس غلطی کی وجہ سے انٹرنیٹ صارفین نے فرانسیسی اخبار کی لیبریشن پر الزام لگایا ، جس نے تصویر کو ہیرا پھیری کا شائع کیا تھا۔

‘دوستانہ پیتھولوجیکل جھوٹا’

اے آئی کا تعصب اس ڈیٹا سے منسلک ہے جو اسے کھلایا جاتا ہے اور ٹھیک ٹوننگ کے دوران کیا ہوتا ہے-نام نہاد سیدھ کا مرحلہ-جو اس کے بعد یہ طے کرتا ہے کہ ماڈل اچھے یا برے جواب کے طور پر کیا درجہ بندی کرے گا۔

ڈیسباچ نے کہا ، "صرف اس وجہ سے کہ آپ اس کی وضاحت کرتے ہیں کہ جواب کی غلط کا مطلب یہ نہیں ہے کہ اس سے کوئی مختلف چیز ہوگی۔”

"اس کے تربیتی اعداد و شمار میں کوئی تبدیلی نہیں آئی ہے ، اور نہ ہی اس کی سیدھ ہے۔”

گروک غلط طریقے سے تصاویر کی نشاندہی کرنے میں تنہا نہیں ہے۔

جب اے ایف پی نے مسٹرل ائی کے لی چیٹ سے پوچھا-جو فرانسیسی اسٹارٹ اپ اور نیوز ایجنسی کے مابین ایک معاہدے کے تحت اے ایف پی کے مضامین پر تربیت یافتہ ہے تو-بوٹ نے مریم ڈواس کی تصویر کو یمن سے بھی غلط شناخت کیا۔

ڈیسباچ کے لئے ، چیٹ بوٹس کو کبھی بھی حقائق کی تصدیق کے ل tools ٹولز کے طور پر استعمال نہیں کرنا چاہئے۔

انہوں نے کہا ، "وہ سچ بتانے کے لئے نہیں بنائے جاتے ہیں ،” بلکہ "مواد پیدا کرنے کے لئے ، چاہے وہ سچ ہو یا غلط”۔

"آپ کو اسے دوستانہ پیتھولوجیکل جھوٹا کی طرح دیکھنا ہوگا – یہ ہمیشہ جھوٹ نہیں بول سکتا ، لیکن یہ ہمیشہ ہوسکتا ہے۔”