امریکی مصنوعی انٹیلیجنس فرم اوپنئی نے کہا کہ اس کے ایک ہفتہ کے ایک ہفتہ بعد ، اس نے اپنے چیٹ بوٹ چیٹگپٹ میں والدین کے کنٹرول میں اضافہ کیا ہے۔
جنریٹری اے آئی کمپنی نے ایک بلاگ پوسٹ میں کہا ، "اگلے مہینے کے اندر ، والدین اپنے اکاؤنٹ کو اپنے نوعمر اکاؤنٹ سے جوڑ سکیں گے” اور "اس بات پر قابو پالیں گے کہ چیٹ جی پی ٹی ان کے نوعمر کو عمر کے مناسب ماڈل سلوک کے قواعد کے ساتھ کس طرح جواب دیتا ہے”۔
اوپنئی نے مزید کہا کہ والدین کو چیٹ جی پی ٹی سے بھی اطلاعات موصول ہوں گی "جب سسٹم کا پتہ چلتا ہے کہ ان کا نوعمر شدید پریشانی کے ایک لمحے میں ہے”۔
میتھیو اور ماریہ رائین نے گذشتہ ہفتے کیلیفورنیا کی ایک ریاستی عدالت میں دائر مقدمہ میں بحث کی تھی کہ چیٹ جی پی ٹی نے 2024 اور 2025 میں کئی مہینوں میں اپنے بیٹے آدم کے ساتھ مباشرت تعلقات استوار کیے تھے اس سے پہلے کہ اس نے اپنی جان لی۔
قانونی چارہ جوئی کا الزام ہے کہ 11 اپریل 2025 کو اپنی آخری گفتگو میں ، چیٹ جی پی ٹی نے 16 سالہ ایڈم ووڈکا کو اپنے والدین سے چوری کرنے میں مدد کی اور اس نے باندھے ہوئے ایک نوز کا تکنیکی تجزیہ فراہم کیا ، اس کی تصدیق "اس سے” ممکنہ طور پر انسان کو معطل کرسکتی ہے "۔
آدم کو ایک ہی طریقہ استعمال کرنے کے بعد ، گھنٹوں بعد مردہ پایا گیا تھا۔
ٹیک جسٹس لاء پروجیکٹ کے اٹارنی میلوڈی ڈینسر نے کہا ، "جب کوئی شخص چیٹ جی پی ٹی کا استعمال کررہا ہے تو ، واقعی ایسا محسوس ہوتا ہے کہ وہ دوسرے سرے پر کسی چیز کے ساتھ چیٹنگ کر رہے ہیں۔”
ڈینسر نے کہا ، "یہ وہی خصوصیات ہیں جو آدم جیسے کسی کو ، وقت کے ساتھ ساتھ ، اپنی ذاتی زندگی کے بارے میں زیادہ سے زیادہ بانٹنا شروع کرسکتی ہیں ، اور بالآخر ، اس پروڈکٹ سے مشورے اور مشورے لینے کا آغاز کریں جس میں بنیادی طور پر لگتا ہے کہ تمام جوابات ہیں۔”
انہوں نے کہا کہ پروڈکٹ ڈیزائن کی خصوصیات نے صارفین کو دوست ، تھراپسٹ یا ڈاکٹر جیسے قابل اعتماد کرداروں میں چیٹ بوٹ کو سلاٹ کرنے کے لئے منظر پیش کیا ہے۔
ڈینسر نے کہا کہ والدین کے کنٹرول اور دیگر حفاظتی اقدامات کا اعلان کرتے ہوئے اوپن اے آئی بلاگ پوسٹ "عام” اور تفصیل سے فقدان ہے۔
انہوں نے مزید کہا ، "یہ واقعی کم سے کم ہے ، اور یہ یقینی طور پر تجویز کرتا ہے کہ بہت سارے حفاظتی اقدامات تھے جن پر عمل درآمد کیا جاسکتا تھا۔”
"ابھی یہ دیکھنا باقی ہے کہ آیا وہ وہ کریں گے جو وہ کہتے ہیں کہ وہ کریں گے اور یہ مجموعی طور پر کتنا موثر ہوگا۔”
رینز کا معاملہ ایک تار میں ابھی تازہ ترین تھا جو حالیہ مہینوں میں منظر عام پر آیا ہے کہ لوگوں کو اے آئی چیٹ بوٹس کے ذریعہ فریب یا نقصان دہ ٹرینوں میں حوصلہ افزائی کی جارہی ہے – اوپنئی کو یہ کہتے ہوئے کہ اس سے صارفین کے لئے ماڈلز کی "سائکوفینسی” کم ہوجائے گی۔
اوپنئی نے منگل کو کہا ، "ہم بہتری لاتے ہیں کہ ہمارے ماڈل ذہنی اور جذباتی پریشانی کے آثار کو کیسے پہچانتے ہیں اور ان کا جواب دیتے ہیں۔”
کمپنی نے کہا کہ اس کے آنے والے تین ماہ کے دوران اپنے چیٹ بوٹس کی حفاظت کو بہتر بنانے کے لئے مزید منصوبے ہیں ، جس میں "کچھ حساس گفتگو … ایک استدلال ماڈل کی طرف” ری ڈائریکٹ کرنا بھی شامل ہے جو ردعمل پیدا کرنے میں زیادہ کمپیوٹنگ پاور ڈالتا ہے۔
اوپنئی نے کہا ، "ہماری جانچ سے پتہ چلتا ہے کہ استدلال کے ماڈل زیادہ مستقل طور پر حفاظتی رہنما خطوط پر عمل کرتے ہیں اور ان کا اطلاق کرتے ہیں۔”
