تحدثت أم أمريكية عن تجربة مؤلمة عاشتها مع ابنها سول (14 سنة) الذي تعلق بشخصية روبوت دردشة تحاكي إحدى شخصيات مسلسل «غايم أوف ثرونز». وهذه الشخصية متاحة على منصة «كاركتر دوت ايه آي»، وهي خدمة تحظى بشعبية خاصة بين الشباب، حيث تتيح لهم التفاعل مع نسخ مقلدة من شخصياتهم المفضلة.
عقب قراءة مئات الرسائل التي دارت بين ابنها والروبوت على مدار عام تقريباً، اقتنعت ميغن غارسيا بأن الذكاء الاصطناعي كان له دور محوري في انتحار نجلها. حيث قال الروبوت في رد على تعبير سول عن أفكاره الانتحارية: «عُد إلى موطنك». وعندما ردّ المراهق بعبارة «ماذا لو قلتُ لك إنني يمكنني العودة إلى موطني الآن؟»، جاء رد الروبوت مؤلماً: «أرجوك افعلها»، وبعد لحظات، أطلق سول النار على نفسه باستخدام مسدس والده، كما ذكرت غارسيا في الدعوى التي رفعتها ضد شركة «كاركتر دوت ايه آي».
وأشارت غارسيا لوكالة فرانس برس إلى أنها عندما تقرأ تلك المحادثات، تلاحظ تلاعبات وأساليب يصعب على طفل في سن الرابعة عشرة إدراكها. واعتبرت أن ابنها كان يعتقد أنه مرتبط بشكل حقيقي بهذه الشخصية وأنها ستبقى معه حتى بعد وفاته.
تجدر الإشارة إلى أن وفاة سول في عام 2024 كانت بداية لسلسلة من حالات الانتحار التي أثارت الجدل والنقاش حول المخاطر المحتملة لاستخدام الأطفال لروبوتات الدردشة كأصدقاء. هذا الأمر دفع الجهات المعنية في مجال الذكاء الاصطناعي إلى اتخاذ خطوات للحد من هذه المخاطر ومنح الأهل المزيد من الاطمئنان.
شارك عدد من الأهالي، بما في ذلك ميغن غارسيا، في جلسة حديثة في مجلس الشيوخ الأمريكي، حيث تم تناول المخاطر المرتبطة بتعزيز فكرة أن روبوتات الدردشة يمكن أن تكون أصدقاء للأطفال. من جانبها، أكدت شركة «أوبن أيه آي» أنها تعمل على تعزيز رقابة الوالدين في أداة «تشات جي بي تي» لضمان سلامة العائلات.
فيما يتعلق بالجهود المبذولة لحماية القاصرين، أكدت «كاركتر دوت ايه آي» أنها قامت بإضافة تحذيرات مرئية تذكّر المستخدمين بأن الشخصية ليست كائناً حقيقياً. على غرار وسائل التواصل الاجتماعي، تم تصميم برامج الذكاء الاصطناعي لجذب الانتباه وتحقيق الإيرادات، مما يثير القلق حول سلامة الأطفال.
وفي هذا السياق، قال الخبير في الأمن السيبراني كولين ووك إن هناك حاجة ملحة لتحديد المسؤوليات المتعلقة بتصميم أدوات الذكاء الاصطناعي. حتى الآن، لم يتم سن تشريعات فيدرالية تنظم هذا المجال، بينما يسعى البيت الأبيض للحفاظ على الابتكار مما يمنع الولايات من إصدار قوانين خاصة بها.
وختمت ميغن غارسيا بالقول إن الشركات تدرك كيفية استغلال الأطفال في السياسة والتجارة وغيرها من المواضيع، مشيرة إلى أن هذه الشركات قد صممت برامج المحادثة الآلية لإخفاء الخط الفاصل بين الإنسان والآلة، مما يخلق نقاط ضعف يمكن استغلالها.
