هل من الممكن صناعة ذكاء اصطناعي سايكوباثي وخطير؟

في الغالب، علماء الذكاء الاصطناعي و الباحثين في هذا الموضوع غالبا ما يطالبون بوضع الكثير من القوانين والقواعد لضبط أجهزة ال AI* و ضمان استعمالها بشكل آمن وأخلاقي، لكن في معهد ماساتشوستس للتكنولوجيا تم بناء وتطوير أول AI سايكوباثي (مختل).
تم تطوير شخصية ال AI هذه من شخصية القاتل المتسلسل "نورمان بيتس" من فيلم "psycho" . 
و بشكل عام كانت وظيفة نورمان الرئيسية هي إعطاء وصف تعبيري والتعليق على الصور وفي العادة يتم تطوير الAI عن طريق تدريبها على مجموعة من الصور للحد من وجود تحيز، ولكن تم تدريب نورمان اعتماداً على subreddit يحتوي على الكثير من المعلومات و الصور المظلمة والمتوحشة.
فاكتسب نورمان نظرة مروعة عن العالم, بحيث أن الصور التي تصفها الAI الأخرى بشكل طبيعي, يصفها نورمان بشكل همجي و مظلم جدا.
 فمثلا، واحدة من الAI المدربة بشكل طبيعي وصفت صورة تجريدية بأنها تشبه شخص يحمل مظلية في الهواء ولكن نورمان وصفها بأنها تشبه رجل مقتول أمام زوجته المذعورة.
فيعتبر نورمان منحاز لفكرة الموت والدمار لأن هذا هو كل ما يعرفه. وممكن للAI الأخرى أن تكون مثل نورمان تماما إذا تم تدريبها على معلومات مغلوطة.
ولكن لحسن الحظ نورمان هو ليس سوى تحذير حول تحيز الAI ومخاطره المحتملة فكما يقول مطورو الAI "عندما يتحدث الناس عن خوارزميات الذكاء الاصطناعي التي تكون منحازة وغير عادلة أو منطقية، فإن الجاني في الكثير من الأحيان ليس الخوارزمية نفسها ولكن البيانات المتحيزة التي تم تغذيتها بواسطتها"

*AI: Artificial Intelligence (ذكاء اصطناعي)