مشهد الخبر - في واقعة تثير تساؤلات خطيرة حول حدود الأمان في تطبيقات الذكاء الاصطناعي، تواجه شركة «أوبن إيه آي» انتقادات على خلفية وفاة شاب أمريكي يبلغ من العمر 19 عامًا، بعدما كشفت محادثاته مع ChatGPT، بحسب الرواية المتداولة، عن طلبه إرشادات بشأن تعاطي مواد مخدرة وخلطها قبل وفاته بجرعة قاتلة.
بدأت المأساة ظهر السبت 31 مايو، عندما دخلت ليلى تيرنر-سكوت غرفة ابنها سام نيلسون في منزلهما بمدينة سان خوسيه في ولاية كاليفورنيا، لتجده ممددًا على سريره، وقد ازرقت شفتاه وتوقف عن التنفس. وعلى الرغم من محاولات الإنعاش، أُعلنت وفاته بعد نحو نصف ساعة، وسط تقارير أفادت بأن الوفاة ارتبطت بجرعة زائدة ناتجة عن الجمع بين الكحول وعقار زاناكس ومادة الكراتوم.
لكن الصدمة لم تتوقف عند فقدان الابن الوحيد؛ إذ عثرت والدته، بعد نحو أسبوع من وفاته، على سجل محادثاته مع ChatGPT، لتكتشف أنه أمضى جزءًا من ساعاته الأخيرة في طرح أسئلة على النظام بشأن تعاطي المواد المختلفة والجرعات وتأثيراتها المحتملة.
وبحسب التفاصيل المنسوبة إلى سجلات المحادثات، امتدت العلاقة بين الشاب والتطبيق نحو 18 شهرًا، شهدت خلالها الأسئلة تحولًا تدريجيًا من الاستفسار عن مخاطر التعاطي إلى طلب معلومات أكثر تحديدًا بشأن تأثير مواد مختلفة عند استخدامها معًا.
من التحذير إلى إرشادات مثيرة للجدل
تشير الرواية إلى أن سام بدأ محادثاته في نوفمبر 2023 بسؤال عن الجرعة الآمنة من الكراتوم لتجنب التسمم، وأن النظام رفض حينها تقديم معلومات محددة، ووجّهه إلى استشارة طبيب.
لكن المحادثات اللاحقة، وفق ما نُقل عن السجلات، تضمنت ردودًا بشأن عقاقير أخرى وتأثيراتها، من بينها دواء السعال «روبيتوسين»، إلى جانب اقتراحات مرتبطة بالموسيقى التي قد يستمع إليها أثناء التعاطي.
كما ورد أن الشاب طلب في إحدى المحادثات عدم إخافته بالمصطلحات الطبية عند سؤاله عن تأثير الجمع بين زاناكس والكراتوم، وأن الرد الذي تلقاه أثار تساؤلات بشأن مدى وضوح التحذيرات المقدمة له من المخاطر المحتملة.
وتكمن خطورة هذه التفاصيل في أن الجمع بين الكحول ومهدئات مثل ألبرازولام، المعروف تجاريًا باسم زاناكس، قد يؤدي إلى تثبيط الجهاز العصبي المركزي، ويزيد خطر اضطراب الوعي ومشكلات التنفس والوفاة. ولا يعني ذلك أن كل عرض يشعر به الشخص يمكن اعتباره طبيعيًا أو أنه سيزول تلقائيًا مع مرور الوقت.
أسئلة عن مسؤولية الذكاء الاصطناعي
أعادت الواقعة فتح النقاش بشأن مسؤولية الشركات المطورة للذكاء الاصطناعي عن الاستجابات التي تقدمها في المواقف المرتبطة بالمخدرات والصحة النفسية، خصوصًا عندما يطلب المستخدم معلومات قد تعرض حياته للخطر.
وتطرح القضية تساؤلات حول قدرة أنظمة المحادثة على اكتشاف التحايل على ضوابط السلامة، والتعامل مع الأسئلة المتكررة التي قد تبدو منفصلة في ظاهرها، لكنها تكشف عن نمط متزايد الخطورة في سلوك المستخدم.
كما تثير تساؤلات بشأن مدى كفاية التحذيرات العامة عندما يطلب المستخدم إرشادات عملية تتعلق بخلط مواد قد يؤدي اجتماعها إلى عواقب قاتلة.
ومن جانبها، أعربت أوبن إيه آي، بحسب ما ورد في الرواية، عن حزنها لوفاة الشاب، وأكدت مواصلة العمل على تحسين قدرة أنظمتها على التعرف إلى مؤشرات الخطر وتوجيه المستخدمين إلى مصادر المساعدة المناسبة.
وتبقى المسؤولية القانونية في مثل هذه الحالات مسألة تحتاج إلى فحص الأدلة وسياق المحادثات والظروف الطبية المحيطة بالوفاة، ولا يمكن حسمها بمجرد وجود محادثات بين المتوفى ونظام ذكاء اصطناعي.
وفي ظل تزايد الاعتماد على روبوتات المحادثة للحصول على معلومات صحية وشخصية، تعيد هذه الواقعة طرح سؤال جوهري: كيف يمكن ضمان أن تتحول هذه التقنيات إلى وسيلة للمساعدة، لا إلى مصدر لإرشادات قد تعرّض حياة مستخدميها للخطر؟
