باشگاه خبرنگاران جوان؛ جواد فراهانی – رومن یامپولسکی، محقق متخصص در امنیت هوش مصنوعی، هشدار می دهد که توسعه سریع این فناوری می تواند منجر به انقراض بشریت شود.
یامپولسکی تخمین می زند که احتمال بروز این سناریوی فاجعه بار در ۱۰۰ سال آینده به ۹۹.۹ درصد می رسد.
این محقق هوش مصنوعی، هشدار خودرا برمبنای مشاهداتش بر اساس این که همه سیستم های هوش مصنوعی فعلی فاقد حفاظات امنیتی کافی هستند، بیان می کند و هیچ امیدی نمی بیند که نسل های آینده این فناوری ها مشکلات اساسی خودرا حل کنند. بنابراین، او به لیست رو به رشدی از متخصصان نگران، همچون تعدادی از پیشگامان این حوزه، می پیوندد.
یامپولسکی کتابی با عنوان «هوش مصنوعی: غیرقابل توضیح، غیرقابل پیشبینی، غیرقابل کنترل» منتشر نموده است که در آن خطرات اصلی، مانند عدم توانایی در پیشبینی رفتار هوش مصنوعی یا درک دلیلهای تصمیمات آنرا توضیح می دهد.
این کتاب به مسایل پیچیده ای مانند این که چه کسی این فناوری را کنترل می کند و پیامد های ناخواسته آنچه می تواند باشد، می پردازد و با بحث های فلسفی در مورد این که آیا هوش مصنوعی می تواند دارای آگاهی یا شخصیت باشد، تمام می شود.
در حالیکه پیشکسوتانی مانند یامپولسکی جزء بدبین ترین افراد هستند، تحقیقات دیگر تخمین های نه چندان وخیمی ارایه می دهند. مطالعه ای که توسط دانشگاه های آکسفورد و بن انجام شد و بالاتر از ۲۷۰۰ متخصص را مورد بررسی قرار داد، احتمال انقراض انسان به علت هوش مصنوعی را تنها ۵ درصد تخمین زد.
کاتیا گریس، محقق، توضیح می دهد که بیشتر متخصصان خودِ خطر را تصدیق می کنند، اما اختلاف نظر واقعی در میزان دقیق آن نهفته است.
از طرف دیگر، چهره های برجسته ای مانند اندرو نگ، یکی از بنیانگذاران گوگل برین و یان لکان، پیشگام هوش مصنوعی، ایده انقراض کامل انسان را رد می کنند. لکان استدلال می کند که تعدادی از هشدار های اغراق آمیز ممکنست اهدافی غیر از علم داشته باشند.
از طرف دیگر، سم آلتمن، رییس OpenAI، اظهارات جنجالی بیان کرد و گوشزد نمود که هوش مصنوعی تعداد زیادی از مشاغلی را که او آنها را «کار واقعی» توصیف نکرده بود، از بین خواهد برد که انتقادات گسترده ای را بدنبال داشت. وی همینطور پیش بینی نمود که این فناوری منجر به تغییرات اساسی در «قرارداد اجتماعی» موجود خواهد شد.
بالاتر از یک دهه پیش، در سال ۲۰۱۵، آلتمن جمله معروفی اظهار داشت: «هوش مصنوعی به احتمال زیاد به انتها جهان منجر خواهد شد، اما پیش از آن، شرکت های بزرگی بوجود خواهد آورد.»
منبع: اکسپرس
بطور خلاصه بنابراین، او به فهرست رو به رشدی از متخصصان نگران، همچون بعضی از پیشگامان این حوزه، می پیوندد.
یامپولسکی کتابی با عنوان هوش مصنوعی: غیرقابل توضیح، غیرقابل پیشبینی، غیرقابل کنترل منتشر نموده است که در آن خطرات اصلی، مانند عدم توانایی در پیشبینی رفتار هوش مصنوعی یا درک دلیلهای تصمیمات آن را توضیح می دهد.
این کتاب به مسائل پیچیده ای مانند اینکه چه کسی این فناوری را کنترل می کند و پیامد های ناخواسته آن چه می تواند باشد، می پردازد و با بحث های فلسفی در مورد اینکه آیا هوش مصنوعی می تواند دارای آگاهی یا شخصیت باشد، تمام می شود.
در صورتی که پیشکسوتانی مانند یامپولسکی جزء بدبین ترین افراد هستند، تحقیقات دیگر تخمین های نه چندان وخیمی ارائه می دهند. وی همین طور پیش بینی کرد که این فناوری منجر به تغییرات اساسی در قرارداد اجتماعی موجود خواهد شد.
بیشتر از یک دهه پیش، در سال ۲۰۱۵، آلتمن جمله معروفی گفت: هوش مصنوعی به احتمال زیاد به اختتام جهان منجر خواهد شد، اما قبل از آن، شرکت های بزرگی بوجود خواهد آورد.
منبع: rond912.ir
