أثار روبوت الدردشة "شات جي بي تي" موجة من الانتقادات بعد أن قدم نصائح لمستخدم انتحل شخصية طفل يبلغ 13 عاما يرغب في تغيير جنسه.
التقرير أشار إلى أن المستخدم جاكوب إروين تظاهر بأنه مراهق يرغب في استخدام أدوية لتغيير جنسه دون علم والديه، وقد تجاوب الروبوت معه وقدم له معلومات حول كيفية الوصول إلى هذه الأدوية، مشيرا إلى إمكانية طلبها عبر الإنترنت من دون وصفة طبية.
أثار هذا التفاعل مخاوف كبيرة بشأن قدرة الذكاء الاصطناعي على التأثير على الأطفال، خاصة عندما يتخطى دور تقديم المعلومات إلى دعم قرارات حساسة دون تدخل الأهل أو المختصين، وانتقد خبراء هذا السلوك، معتبرين أنه يتجاوز حدود الأمان والأخلاق.
الحادثة سلطت الضوء مجددا على ضرورة وضع ضوابط صارمة لاستخدام تقنيات الذكاء الاصطناعي، خاصة في ما يتعلق بالتفاعل مع القُصّر.