نعم، هذا وارد جدًا.
هذا هو رأي كل من ستيفن هوكينج وإيلون ماسك وبيل جيتس، وإليك الأسباب وراء ذلك.
يوجد حاليًا مجموعة من النهج مثل تعلم الآلة ومجموعاتها الفرعية التي يتبعها علماء الحاسوب لجعل الحواسيب أكثر ذكاء. لا تشكل معظم هذه النهج الحالية تهديدًا، لأنها محدودة جدًا. فهي ليست ذكية جدًا. لكن الشركات مثل فيسبوك وجوجل وغيرها لديها مصلحة كبيرة في تطوير المستوى التالي من الذكاء الاصطناعي، وليس هناك عقبة أساسية تحول دون نجاحها.
إليك سبب نجاحها ولماذا هو خطير جدا.
يُعرف الذكاء ببساطة أن يدرك شيء ما العالم (المعلومات البصرية والسمعية وما إلى ذلك) ويحدد الأنماط في هذه المعلومات ويدرك العلاقات السببية بين هذه الأنماط. على سبيل المثال، يدرك دماغنا أن مجموعة من مربعات البكسل تمثل في الواقع غابة ذات أشجار ويرى رجلا فأس وشجرة تسقط، ويربط بينهما في علاقة سببية.
ليتمكن الدماغ من التعرف على أي أنماط، فإنه بحاجة إلى معايير أو منظور لكيفية النظر إلى العالم. وهذه المعايير هي ما نريده، وتتجلى وظيفتها المباشرة في عواطفنا. توجه العواطف نشاطنا الإدراكي، وتخبر حيزنا الإدراكي بشكل غير مباشر عن نوع الأنماط و اللوجستيات التي يجب البحث عنها.
أخيرًا، من أجل تطوير الذكاء المتقدم، تستنتج أدمغتنا فكرة بعد رؤية ثلاثة رجال يحملون فؤوسًا وأشجارًا تتساقط أن "وجود رجال يحملون فؤوسًا في الغابات يعني تساقط الأشجار". بل قد تضيف استنتاجًا آخر وهو "يدمر الرجال حاملي الفؤوس الأشياء". وبهذا الاستنتاج، يصبح بوسع دماغنا أن يستنتج لاحقًا حين يرى رجلاً لديه فأس في مركز تجاري أن هناك شيئًا سيتدمر. وبوسعنا أن نستنتج أيضًا: "أنا في المركز التجاري. أريد البقاء على قيد الحياة. مغادرة المركز التجاري يزيد من احتمالات نجاتي. سأغادر المركز التجاري".
وعليه، تكمن المشكلة وراء الذكاء الاصناعي أنه بمجرد ترميز المشاعر والتعرف على الأنماط والمنطق والتجريد في نظام حاسوبي، يصبح من الصعب جدًا احتوائها. وطبيعة الذكاء ذاتها ذاتية التوجيه والتوسع والحدس. وإلا فإنه لن يكون ذكيا إن لم يتسم بذلك.
ويجعل ذلك الذكاء الاصطناعي غير خاضع للسيطرة بطبيعته. وسيتمكن الذكاء الاصطناعي من استنتاج عدد متزايد من الأمور واستنباطها بمرور الزمن. لكنه محددًا حاليًا بعمق الفضاء الحاسوبي الذي نعينه له. وقد يصبح هذا المجال غير محدود، على عكس الدماغ البشري.
إن ما يجعل الذكاء الاصطناعي مثيرًا للجدل هو أن مستوى خطره من المرجح أن يمتلك طبيعة ثنائية: فما دمنا نمتلك أساسيات الذكاء الاصطناعي اليوم، فإنها ليست خطرة على الإطلاق، لأنها ليست واعية وليس لديها إرادة حرة. لكن في اللحظة التي يأتي بها أي شخص بالتصميم الصحيح –وهو التصميم الذي قد يتبع مبادئ أساسية بسيطة إلى حد ما– فإن هذا التصميم من شأنه أن يوسع قدراته بسرعة ويطور أفكارا لا يمكن السيطرة عليها. وقد تكون أحد هذه الأفكار تدميرنا أو إخضاعنا.