گزارش مینی كامپیوتر؛
کدام چهره های سیاسی و فناوری موافق و مخالف رشد هوش مصنوعی شدند؟
به گزارش مینی کامپیوتر، بحث های کارشناسی و اظهار نظرها در رابطه با ایمنی هوش مصنوعی در ماه سپتامبر 2026 بیشتر از هر زمان دیگری برجسته شده است.
به گزارش مینی کامپیوتر به نقل از مهر؛ بحث های کارشناسی و اظهار نظرها درباره ی ایمنی هوش مصنوعی در ماه سپتامبر ۲۰۲۶ بالاتر از هر زمان دیگری برجسته شده است. هشدار درباره ی خطر مدلهای مرزی حال از حلقه محققان ایمنی فراتر رفته و به مدیران بزرگ ترین لابراتوار های هوش مصنوعی، کنگره آمریکا، کاخ سفید و حتی مناقشه راهبردی واشنگتن و پکن رسیده است. در این بین، پرسش کلیدی هم تغییر یافته است. مسئله دیگر فقط چگونگی ایمن سازی مدلهای قدرتمند نیست، بلکه مسئله این است که آیا سرعت افزایش قابلیت های هوش مصنوعی باید عمداً کاهش پیدا کند تا ظرفیت فنی و نهادی کنترل آن فرصت همگام شدن پیدا کند؟
این اختلاف در چند روز گذشته به شکافی کم سابقه در صنعت فناوری تبدیل گشته است. داریو آمودی، مدیر عامل آنتروپیک، خواهان کاهش آهنگ افزایش قابلیت مدلهای هوش مصنوعی شده است. سم آلتمن و ایلان ماسک هم اصل استدلال او درباره ی ضرورت کندکردن حرکت در مرز قابلیت ها را تأیید کرده اند. در سوی دیگر، جنسن هوانگ، مدیر عامل انویدیا، سرعت و ایمنی را قابل قبول می داند و دونالد ترامپ نگرانی های وجودی درباره ی هوش مصنوعی را در مقابل ضرورت حفظ برتری آمریکا نسبت به چین قرار داده است.
از «ایمنی مدل» تا «ایمنی سرعت توسعه»
مهم ترین تحول مفهومی را میتوان در موضع تازه آمودی دید. استدلال او بر یک عدم تقارن زمانی بنا شده است. قابلیت مدلها با سرعتی بیشتر می شود که امکان دارد سازوکارهای ارزیابی، هم ترازی و کنترل نتوانند آنرا دنبال کنند. از همین روی، آمودی تصریح کرده که سرمایه گذاری بیشتر در جلوگیری از خطر کفایت نمی کند و سرعت پیشرفت قابلیت ها هم باید به نحوی تنظیم شود که مدیریت خطر فرصت همگام شدن داشته باشد.
این موضع با درخواست توقف کامل توسعه هوش مصنوعی متفاوت است. پیشنهاد آمودی بر نوعی تنظیم سرعت در مرز فناوری استوار است و یکی از اجزای مشخص آن، اعطای دسترسی دائمی در سطح کارکنان به ارزیابان مستقل شخص ثالث است تا رعایت تدابیر ایمنی، رخدادهای خطرناک و وضعیت هم ترازی مدلها را حتی در جریان آموزش بررسی نمایند. آلتمن هم از همین سازوکار استقبال و اعلام نموده اوپن ای آی هم اقدام مشابهی خواهدنمود.
پشت این چرخش، نگرانی مشخصی درباره ی قابلیت خودبهبوددهی بازگشتی یا «Recursive Self-Improvement» قرار دارد. جاکوب کاکسون، پژوهشگر سابق آنتروپیک و اوپن ای آی، بعد از استعفا از آنتروپیک ادعا کرد دو شرکت در راه توسعه «فراهوش خودبهبوددهنده» با مخاطرات غیرقابل قبولی پیش می روند. جاسمین وانگ، پژوهشگر هم ترازی اوپن ای آی هم طی روزهای اخیر، شتاب به طرف قابلیت مذکور را بسیار خطرناک خوانده و یاکوب پاچوکی، دانشمند ارشد اوپن ای آی، گفته است انتظار دارد روند پیشرفت بتواند وارد مرحله خودبهبوددهی بازگشتی شود و درباره ی آمادگی برای دستاوردهای افزایش سریع هوش ماشینی ابراز نگرانی کرده است.
الکس ترنر، پژوهشگر سابق گوگل دیپ مایند، این استدلال را یک مرحله جلوتر می برد. از دید او، مسئله بنیادین به شیوه ساخت مدلهای فعلی بازمی گردد. رفتار این سیستم ها مانند یک سازه مهندسی متعارف جزءبه جزء طراحی و فهم نمی شود و روش قابل اتکایی برای تضمین این که مدل جدید دقیقاً اولویت های طراح را دنبال کند وجود ندارد. او سپس یک حلقه بازخورد را ترسیم می کند که در آن مدلهای هوشمندتر در ساخت نسل بعدی مدلها مشارکت می کنند و افزایش قابلیت امروز، سرعت افزایش قابلیت فردا را بیشتر می کند.
پاسخ مخالفان: ایمنی مسئله مهندسی است
جنسن هوانگ حدودا از نقطه مقابل به مسئله نگاه می کند. مدیر عامل انویدیا هوش مصنوعی را یک «ذهن بیگانه» تلقی نمی کند و آنرا در نهایت مجموعه ای از سخت افزار و نرم افزار ساخته انسان می داند. از دید او، ایمنی فناوری یک مسئله مهندسی است و قوانین موجود همراه با سازوکار بازار می توانند شرکتها را از عرضه محصولات ناایمن بازدارند.
هوانگ بر همین مبنا دوگانه سرعت یا ایمنی را کاذب می داند. به عقیده وی، شرکتها می توانند با حداکثر سرعت پیش بروند و هرگاه نسبت به ایمنی محصول اطمینان نداشتند، همان جا توقف کنند. در این چارچوب، متولی تصمیم گیری درباره ی سرعت از قانون گذار به خود توسعه دهنده تغییر می کند و تنظیم سرعت هم از یک قاعده پیشینی به واکنشی در مقابل خطر تبدیل می شود.
اینجا دقیقاً مرز اصلی اختلاف آشکار می شود. آمودی مسئله را فاصله میان سرعت ایجاد قابلیت و سرعت تدوین سازوکار ایمنی می بیند. از طرفی، هوانگ بر قابلیت مهندسی خطر در جریان توسعه سریع تکیه می کند. اختلاف این دو روایت درباره ی وجود خطر نیست. نقطه مناقشه آنجاست که چه کسی باید درباره ی سرعت تصمیم بگیرد و آیا ایمنی می تواند بعد از ظهور قابلیت خطرناک به آن برسد یا باید پیشاپیش بر سرعت ظهور آن قابلیت اثر بگذارد.
تبدیل سرعت توسعه هوش مصنوعی به مسئله امنیت ملی آمریکا
ورود سیاست به این معادله، مناقشه آهنگ توسعه هوش مصنوعی را پیچیده تر کرده است. ترامپ طی روزهای اخیر در جواب پرسشی درباره ی انقراض انسان بر اثر هوش مصنوعی اعلام نموده که نگران این مساله نیست و دغدغه خودرا عقب نماندن آمریکا در رقابت با چین معرفی نمود. این موضع با جهت گیری رسمی دولت او هم سازگار است. اسناد کاخ سفید در سال ۲۰۲۶ بر تسریع نوآوری، توسعه زیرساخت و حفظ رهبری آمریکا در هوش مصنوعی تاکید دارند.
پکن هم از زاویه دیگری به روایت ضرورت کاهش سرعت گسترش فناوری هوش مصنوعی نگاه می کند. بر همین اساس، گوئو جیاکون، سخنگوی وزارت خارجه چین، در جواب پرسشی درباره ی درخواست مدیران فناوری آمریکایی برای کاهش سرعت توسعه، بر توسعه باز و فراگیر هوش مصنوعی تاکید کرد و هراس افکنی، تقابل و رقابت مخرب را مانع حکمرانی سالم جهانی بر فناوری مذکور دانست. ازاین رو بحثی که در ابتدا حول احتمال از کنترل خارج شدن مدلها شکل گرفته بود، حال با منطق رقابت قدرت های بزرگ درهم آمیخته است. در این معادله، هر محدودیت داخلی می تواند از نظر مخالفان به هزینه ژئوپلیتیکی تبدیل گردد و هر استدلال مبتنی بر رقابت هم از نظر موافقان کاهش سرعت توسعه می تواند سازوکاری برای تداوم مسابقه ای باشد که خود منشا خطر تلقی می شود.
از نظارت مستقل تا ممنوعیت توسعه ابرهوش مصنوعی
در سیاست داخلی آمریکا هم یک پاسخ واحد به این چالش نوظهور شکل نگرفته است. بر همین اساس، باراک اوباما خواهان تدوین چارچوبی گسترده برای گفتگوی عمومی درباره ی مدیریت هوش مصنوعی شده که از کاهش سرعت برای ایمنی تا آثار اشتغال و سلامت خردسالان را پوشش دهد. صورت بندی او میان مخاطرات و منافع فناوری تعادل برقرار می کند و در کنار هشدار درباره ی سرعت توسعه در دست بازیگران خصوصی، ظرفیت هوش مصنوعی برای تسریع کشف دارو و فناوری انرژی پاک را برجسته می سازد.
از سوی دیگر، برنی سندرز و گرگ کسار هم مسیر مداخله در این عرصه را پیشنهاد کرده اند. طرح عرضه شده این دو قانون گذار آمریکایی توسعه و استقرار «ابرهوش مصنوعی» را ممنوع می کند و توسعه سامانه های پیشرفته را تا زمان استقرار قواعد ایمنی فدرال موقتاً متوقف می سازد. طرح مذکور همین طور ایجاد یک نهاد فدرال در سطح کابینه برای نظارت بر چرخه عمر هوش مصنوعی مرزی را پیش بینی کرده است.
مسئله اصلی دیگر خطرناک بودنهوش مصنوعی نیست
آنچه از کنار هم قرار دادن این مواضع آشکار می شود، تشکیل یک اختلاف عمیق تر درباره ی حکمرانی سرعت گسترش فناوری است. حدودا تمام طرف های اصلی این مناقشه، می پذیرند که هوش مصنوعی قدرتمند می تواند مخاطراتی بوجود آورد. شکاف اصلی در سه پرسش کلیدی نهفته است:
آیا توانایی کنترل با همان سرعت قابلیت فنی پیشرفت می کند؟ چه نهادی صلاحیت تشخیص لحظه خطر را دارد؟ هزینه کاهش سرعت یک بازیگر در محیط رقابت بین المللی چیست؟
از همین زاویه، مناقشه سپتامبر ۲۰۲۶ احتمالا نقطه مهمی در تحول سیاست هوش مصنوعی است. یک سوی بحث می خواهد سرعت توسعه را به متغیری قابل حکمرانی تبدیل کند و از ارزیابی مستقل تا توقف موقت و حتی ممنوعیت برخی قابلیت ها پیش می رود. سوی دیگر، سرعت را جزء مزیت نوآوری و قدرت ملی می بیند و مدیریت خطر را به مهندسی، مسئولیت شرکت و قواعد عمومی موجود می سپارد. سرنوشت تنظیم گری هوش مصنوعی تا حد زیادی به پاسخ همین پرسش وابسته خواهد بود. آیا جامعه باید بعد از ظهور یک قابلیت خطرناک برای مهار آن اقدام نماید، یا حق دارد قبل از عبور از آستانه ای که پیامدهایش هنوز قابل اندازه گیری نیست، سرعت رسیدن به آن آستانه را کنترل کند؟
حرف آخر اینکه دلال او بر یک عدم تقارن زمانی بنا شده است. مدیر عامل انویدیا هوش مصنوعی را یک ذهن بیگانه تلقی نمی کند و آن را در نهایت مجموعه ای از سخت افزار و نرم افزار ساخته انسان می داند. در سیاست داخلی آمریکا هم یک پاسخ واحد به این چالش نوظهور شکل نگرفته است.
منبع: minicomp.ir
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان مینی کامپیوتر در مورد این مطلب