«اخطار دانشمند ارشد: خطر نابودی بشریت توسط هوش مصنوعی»

دانشمند ارشد آنتروپیک از احتمال «کشته‌شدن تمامی انسان‌ها به وسیله هوش مصنوعی» خبر داد. دو پژوهشگر این مؤسسه درباره مسابقه‌ای خطرناک برای توسعه «هوش مصنوعی خودبهبوددهنده» هشدار دادند و از احتمال بروز یک فاجعه بزرگ سخن گفتند.

به گزارش انتخاب، زومیت: این دو پژوهشگر در آنتروپیک تصویر نگران‌کننده‌ای از شتاب در صنعت هوش مصنوعی ارائه کردند؛ تصویری که نشان می‌دهد رقابت برای ساخت سیستم‌های خودبهبوددهنده از مرز احتیاط فراتر رفته و به یک میدان قمار با ریسک‌های وجودی نزدیک شده است. یکی از پژوهشگران ارشد ایمنی آنتروپیک اعلام کرد که احتمال اینکه هوش مصنوعی تا پایان دهه جاری میلادی «بتواند همه انسان‌ها را بکشد» بیش از ۱۰ درصد است. این اظهارنظر تنها چند ساعت پس از آن مطرح شد که یکی از همکارانش به دلیل رویکرد سهل‌انگارانه در زمینه ایمنی از شرکت جدا شد.

جیکوب کوکسن، پژوهشگری که در آنتروپیک بر روی آموزش سیستم‌های هوش مصنوعی کار کرده و پیش‌تر در اوپن‌ای‌آی نیز فعالیت داشته، در پستی در ایکس نوشت که دلیل کناره‌گیری‌اش نگرانی از مسیری است که شرکت‌های بزرگ در پیش گرفته‌اند؛ مسیری که به گفته او، به سمت «فراهوش خودبهبوددهنده» می‌رود و در عین حال «با جان ما قمار می‌کند.» او ادعا کرد که افرادی که هوش مصنوعی می‌سازند، به‌طور جدی باور دارند که این فناوری ممکن است تا پایان دهه همه را از بین ببرد.

نگرانی‌ها درباره سیستم‌هایی که می‌توانند خود را بهبود دهند، جدید نیست. سال‌هاست که برخی فعالان و پژوهشگران هشدار می‌دهند که چنین مدل‌هایی ممکن است در چرخه‌ای شتاب‌زده از کنترل انسان خارج شوند. هرچند هنوز چنین وضعیتی به‌طور کامل محقق نشده، اما شرکت‌ها عملاً در همان مسیر سرمایه‌گذاری می‌کنند و بخش مهمی از کدهای امروزی نیز با کمک خود هوش مصنوعی نوشته می‌شود.

اوان هوبینگر، که یکی از تیم‌های ایمنی هوش مصنوعی آنتروپیک را رهبری می‌کند، در پاسخ به کوکسن گفت که نگرانی‌اش درباره سیستم‌های خودبهبوددهنده جدی است و سرعت پیشرفت آن‌ها از برآوردهای قبلی بالاتر رفته است. او با ارزیابی همکار سابقش هم‌نظر شد و افزود: «ما واقعاً به‌طور جدی باور داریم که هوش مصنوعی می‌تواند همه انسان‌ها را بکشد.» هوبینگر احتمال وقوع چنین سناریویی را شخصاً بیش از یک‌دهم و در بازه «دهه آینده» برآورد کرد. با این حال، او اعتراف کرد که آنتروپیک هنوز برای اطمینان از ایمن بودن و هم‌راستایی سیستم‌های پیشرفته با ارزش‌های انسانی «برنامه‌ای ندارد» و حتی به‌روشنی در مسیر ساخت چنین برنامه‌ای نیز قرار نگرفته است.

از دیدگاه کوکسن، شرکت‌ها در «یک مسابقه قفل‌شده» گرفتار شده‌اند؛ مسابقه‌ای برای رسیدن سریع‌تر به سیستم‌های پیشرفته، حتی اگر خطرها پابرجا بمانند. خروج کوکسن یکی از بارزترین نمونه‌های جدایی یک کارمند از آنتروپیک به شمار می‌آید؛ شرکتی که توسط تعدادی از اعضای پیشین اوپن‌ای‌آی و در واکنش به نگرانی‌های ایمنی در آن مجموعه تأسیس شده است. در سال‌های اخیر، چندین پژوهشگر دیگر نیز اعلام کرده‌اند که دغدغه‌های مربوط به ایمنی دلیل اصلی ترک اوپن‌ای‌آی بوده است.

برای صنعت هوش مصنوعی، چنین هشدارهایی همزمان دو معنا دارد. از یک‌سو نشان می‌دهد که نگرانی درباره کنترل‌پذیری مدل‌ها دیگر در حاشیه نیست و از سوی دیگر، روشن می‌کند که شکاف میان جاه‌طلبی فنی و آمادگی ایمنی هنوز پر نشده و حتی در شرکت‌هایی که با شعار احتیاط و ایمنی شناخته می‌شوند، پاسخ قطعی برای آینده وجود ندارد.