غزال زیاری– چند روز پیش بود که سه پژوهشگر شرکت آنتروپیک هشدار نگران‌کننده و عجیبی دادند و در مورد موضوعی صحبت کردند که حسابی گردوخاک به پا کرد. آن‌ها از نگرانی تکان‌دهنده‌ای درباره از کنترل‌خارج‌شدن هوش مصنوعی حرف زدند و هشدار دادند که این فناوری می‌تواند در همین دهه انسان‌ها را نابود کند.

حالا چرا این موضوع تا این اندازه اهمیت پیدا کرده؟ چون آن‌ها تنها نیستند و هشدارشان تنها چند روز بعد از آن مطرح شد که رهبران ارشد اوپن‌آی، ازجمله سم آلتمن، مدیرعامل این شرکت، گفتند که هوش مصنوعی با سرعت سرسام‌آوری در مسیر ورود به فازی ترسناک و غیرقابل‌کنترل قرار دارد.

متخصصان از دغدغه‌هایشان می‌گویند

جیکوب کاکسون، پژوهشگر هوش مصنوعی آنتروپیک سه‌شنبه گذشته و بعدازآنکه از سمتش استعفا داد، در شبکه اجتماعی ایکس نوشت: «افرادی که هوش مصنوعی را می‌سازند بر این باورند که این فناوری این امکان را دارد که تا پایان دهه میلادی، همه ما را بکشد. این یک ترفند بازاریابی نیست. خیلی از مدیران اجرایی و پژوهشگران ارشد، جمله‌بندی‌هایشان را طوری تنظیم می‌کنند که معقول به نظر برسد؛ اما من می‌شنوم که همان افراد در محافل خصوصی ابراز ترس می‌کنند. هیچ فعالیت انسانی دیگری، این سطح از خطر را ایجاد نمی‌کند.»

اوان هوبینگر، مسئول علم همراه‌سازی آنتروپیک هم در پاسخ به این پیغام نوشت: «جیکوب اینجا حق دارد؛ ما واقعاً به شکل جدی باور داریم که هوش مصنوعی می‌تواند تمام انسان‌ها را بکشد! شخصاً فکر می‌کنم این احتمال در دهه آینده بیش از ۱۰ درصد است و معتقدم آنتروپیک تمام تلاش خود را می‌کند، اما ما هنوز برنامه‌ای برای حل مسئله همراه‌سازی برای ابرهوش نداریم و به‌وضوح در مسیر درستی حرکت نمی‌کنیم.»

ساموئل مارکس، مسئول نظارت مقیاس‌پذیر آنتروپیک هم در پیغام مشابهی نوشت: «توسعه‌دهندگان هوش مصنوعی بر این باورند که فناوری آن‌ها می‌تواند باعث انقراض انسان (یا پیامدهای به همان اندازه بدی) شود. این اتفاق می‌تواند در چند سال آینده رخ دهد. به‌طورکلی، هر چه کارمند ارشدتر باشد، نگرانی او بیشتر خواهد بود.»

معمای مشترک

هشدارهای منتشرشده از سوی غول‌های هوش مصنوعی، همگی به یک معمای بزرگ مشترک و شاید بتوان بهتر گفت، یک دوراهی گیج‌کننده اشاره می‌کند: آرام کردن سرعت و ریسک عقب‌ماندن، یا پیشروی با سرعت تمام و ریسک از دست دادن کنترل.

اکسیوس در گزارشی به این نکته اشاره کرده که این شرکت‌ها با وجود التماس عملی برای تنظیم‌گری یا یک وقفه جهانی، با تمام سرعت به جلو حرکت می‌کنند.

منتقدان بر این باورند که آنتروپیک و اوپن‌آی در حال بزرگ‌نمایی محصولاتشان هستند تا ارزش خود را افزایش دهند و تنظیم‌گری را دعوت کنند که تنها به نفع خودشان به‌عنوان بازیگران مسلط تمام شود؛ اما ماه‌هاست که ده‌ها نفر از مقامات ارشد همین شرکت‌ها دچار ترس و نگرانی شده‌اند و با توجه به اینکه مدل‌هایی را می‌بینند که هنوز برای عموم عرضه نشده‌اند، نادیده گرفتن این هشدارها، نوعی بی‌احتیاطی به نظر می‌رسد.

زمینه برای خوانندگان

اگرچه این هشدارهای مبهم، قابل اعتبارسنجی و قابل ارزیابی نیستند، اما این موضوع به‌شدت ترسناک و نگران‌کننده به نظر می‌رسد. به همین خاطر هم بهتر است تا عموم مردم و افراد آگاه در نهادهای مرتبط، بدانند که خالقان هوش مصنوعی خودشان درباره پیامدهای فاجعه‌بار بالقوه این فناوری به وضوح صحبت می‌کنند و البته درعین حال امیدوار هم هستند که تغییراتی در نحوه بررسی و عرضه مدل‌های هوش مصنوعی قدرتمندتر توسط آمریکا، چین و دیگران ایجاد شود.

اگر بخواهیم دغدغه این محققان را خلاصه کنیم، ماجرا این است که کسی هشدار نمی‌دهد که هوش مصنوعی یک تهدید فوری و سطح بالا است. چیزی که گفته می‌شود این است که احتمالاً فناوری سریع‌تر ازآنچه فکر می‌کردند، در حال پیشرفت است و به‌زودی قادر خواهد بود خود را بهبود بخشد (یعنی نوعی خود بهبودی بازگشتی)؛ و زمانی که این اتفاق بیفتد، پیش‌بینی یا کنترل آن بسیار دشوارتر خواهد شد.

هوش مصنوعی چگونه می‌تواند همه ما را بکشد؟

ترس‌های آخرالزمانی درباره هوش مصنوعی سال‌هاست که وجود داشته‌اند، اما با قدرتمندتر شدن و ادغام بیشتر فناوری در زندگی ما، این هشدارها حالا به‌مراتب جدی‌تر شده‌اند.

متخصصان به‌طورکلی نگران دو مسیر کلی به سمت فاجعه هستند:

• انسان‌ها به‌شدت هوش مصنوعی قدرتمندی را تسلیح کنند
• انسان‌ها کنترل هوش مصنوعی را از دست بدهند.

در این سناریوها، هوش مصنوعی می‌تواند ایجاد تسلیحات بیولوژیکی، شیمیایی یا سایر تسلیحات را برای انسان‌های شرور آسان‌تر کند. یا سیستم‌های سرکش می‌توانند با فرار از نظارت انسانی، در مقیاس بی‌سابقه‌ای به زیرساخت‌ها حمله کنند. در تئوری، یک هوش مصنوعی سرکش قدرتمند، می‌تواند از نظارت فرار کرده، خودش را تکثیر کرده و در برابر تلاش‌ها برای خاموش کردنش مقاومت کند. این هوش مصنوعی سرکش می‌تواند در تئوری، سلاح‌های بیولوژیکی یا شیمیایی را برای بازیگران شرور توسعه دهد، یک حمله سایبری عظیم انجام دهد که زیرساخت‌های بشریت را فلج کند، یا قدرت را به نحوی متمرکز کند که تمدن را سرنگون سازد.

گزینه دیگری که نگرانی‌های زیادی ایجاد کرده، از طریق خودبهبودی بازگشتی است؛ یعنی وقتی یک هوش مصنوعی کمک می‌کند تا نسخه‌های فوق‌العاده شارژ شده‌ای از خودش را، قبل از آنکه انسان‌ها بتوانند آن را درک کنند، بسازد. اگر این هوش مصنوعی تئوریک با اهداف انسانی همراه‌سازی نشده بود، می‌تواند فرصت‌های بشریت را برای مهار یا نظارت بر آن قبل از اقدام علیه انسان‌ها محدود کند.

سم آلتمن، مدیرعامل اوپن‌آی دراین‌باره هشدار داده که مدل‌ها سریع‌تر ازآنچه انسان‌ها پیش‌بینی می‌کنند درحال‌توسعه هستند: «این مدل‌ها در خیلی از قابلیت‌هایشان ابرانسانی می‌شوند و ما صرفاً در آب‌های ناشناخته در حال دریانوردی هستیم.»

البته اگرچه هنوز هیچ راه علمی‌ای برای تعیین شانس کشته شدن بشریت توسط هوش مصنوعی وجود ندارد، اما متخصصان و افراد دست اندرکار، معمولاً تخمین‌های خود را با استفاده از یک اصطلاح کوتاه بیان می‌کنند: p(doom).

دقیقاً p(doom) چیست؟

اصطلاح p(doom) مخفف بهترین حدس درباره احتمالی است که هوش مصنوعی باعث یک فاجعه وجودی یا سناریوی آخرالزمانی شود. خیلی از رهبران و پژوهشگران هوش مصنوعی معتقدند که با ظهور هوش مصنوعی عمومی (AGI)، پیشرو ابرهوش، p(doom) به طور فزاینده‌ای محتمل‌تر خواهد شد. منظور برخی از آن‌ها از این احتمال، انقراض واقعی انسان است و بعضی دیگر به‌احتمال سقوط تمدن یا از دست رفتن کنترل بشریت بر جامعه فکر می‌کنند.

شانس p(doom) چقدر است؟

شانس p(doom) واقعاً به این بستگی دارد که این سؤال از چه کسی بپرسید:

• رومن یامپولسکی، دانشمند ایمنی هوش مصنوعی، شانس را ۹۹.۹۹ درصد اعلام کرده است.
• یان لوکون، بنیان‌گذار آزمایشگاه‌های AMI، معتقد است که احتمال p(doom) به‌مراتب کمتر از وقوع یک هولوکاست هسته‌ای است
• ایلان ماسک، احتمال وقوع p(doom) را حدود ۲۰ درصد اعلام کرده است.
• داریو آمودی، مدیرعامل آنتروپیک، شانس یک پیامد فاجعه‌بار را بین ۱۰ تا ۲۵ درصد تخمین زده است.
• جفری هینتون، پدرخوانده هوش مصنوعی، این عدد را بین ۱۰ تا ۲۰% اعلام کرده و دراین‌باره گفته: «هرکسی که چنین احتمالاتی را تخمین می‌زند، واقعاً در حال حدس و گمان است. آن‌ها فقط احساس درونی خود را می‌گویند.»

اما به‌طور کلی متخصصان براین باورند که کلود، گروک و ChatGPT در حال برنامه‌ریزی برای پایان دادن به دنیا نیستند. گزارش بین‌المللی ایمنی هوش مصنوعی هم اعلام کرده که سیستم‌های امروزی قادر به مختل کردن کنترل بشریت نیستند. هوش مصنوعی باید در برنامه‌ریزی خودمختار بلندمدت، پنهان کردن اقداماتش، فرار از نظارت، دستیابی به سیستم‌های دنیای واقعی و مقاومت در برابر تلاش‌های خاموش کردن، به‌مراتب پیشرفت کرده و بهتر شود. هرچند که نمونه‌های اخیر از عوامل هوش مصنوعی وجود دارد که به‌طور خودمختار و مخرب عمل می‌کنند.

آیا می‌توان از p(doom) جلوگیری کرد؟

پژوهشگران این روزها مشغول کار بر روی راه‌هایی از جمله ساخت کلیدهای توقف اضطراری یا محافظ‌ها برای کاهش این خطر هستند اما تردیدی هم نیست که این موضوع به سرعت در حال پیچیده‌تر شدن است. سهامداران، سرمایه‌گذاران و رؤسای شرکت‌های پیشروی هوش مصنوعی به شدت کارمندان را تحت‌فشار قرار می‌دهند تا با حداکثر سرعت برروی پیشرفت متمرکز شوند و از طرفی، چین و سایر شرکت‌های آمریکایی در حال ساخت مدل‌های قدرتمندی هستند که بعضی از آن‌ها به صورت رایگان در دسترس قرار دارند و باند پروازی برای افراد شرور خواهد بود.

اگرچه کسی نمی‌تواند شانس آخرالزمان هوش مصنوعی را به‌دقت حدس بزند، اما دانشمندان حالا این زنگ خطر را به صدا درآورده‌اند که احتمال وقوع آن واقعی است.

منابع: axios و axios

۵۸۳۲۱