هوش مصنوعی می تواند تهدیدهای روز صفر در حوزه زیست شناسی ایجاد نماید به گزارش مینی کامپیوتر، تیم تحقیقاتی مایکروسافت با استفاده از هوش مصنوعی یک صدمه پذیری جدی در سیستم های جهانی امنیت زیستی کشف کرده است. تینا مزدکی_تیمی تحقیقاتی در مایکروسافت ادعا می کند که از هوش مصنوعی برای کشف یک لطمه پذیری «روز صفر» (Zero Day) در سیستم های زیست امنیتی بهره برده که برای ممانعت از سوءاستفاده از DNA طراحی شده اند. این سیستم های غربالگری به منظور ممانعت از خرید توالی های ژنتیکی تولید شده اند که می توانند برای تولید سموم کشنده یا پاتوژن ها و عوامل بیماری زای کشنده استفاده شوند. حالا محقق هایی به رهبری «اریک هورویتز»، دانشمند ارشد مایکروسافت، می گویند راهی برای دور زدن این محافظت ها یافته اند که قبلاً ناشناخته بوده است. هورویتز و همکارانش روی الگوریتم های هوش مصنوعی مولد تمرکز کردند که اشکال جدیدی از پروتئین ها را پیشنهاد می دهند. این نوع برنامه ها به جستجوی داروهای جدید توسط استارتاپ های ثروتمندی مانند Generate Biomedicines و Isomorphic Labs کمک می کنند. اما مشکل از آنجایی آغاز می شود چنین سیستم هایی کاربرد دوگانه دارند، یعنی می توانند از داده های آموزشی خود هم برای تولید مولکول های مفید و هم برای مولکول های مضر استفاده نمایند. مایکروسافت می گوید در سال ۲۰۲۳ یک آزمایش «رد-تیمینگ» در رابطه با پتانسیل دوگانه هوش مصنوعی شروع کرده تا مشخص نماید که طراحی چنین پروتئین خصمانه با هوش مصنوعی می تواند به زیست-تروریست ها در ساخت پروتئین های زیان بار کمک نماید یا خیر. این ابزار که مایکروسافت به آن حمله کرد، بعنوان نرم افزار غربالگری امنیت زیستی شناخته می شود. برای تولید یک پروتئین، پژوهشگران معمولا باید توالی DNA مربوطه را از یک فروشنده تجاری سفارش دهند، که بعد از آن می توانند آنرا در یک سلول نصب کنند. این فروشندگان از نرم افزار غربالگری استفاده می نمایند تا سفارش های دریافتی را با سموم یا عوامل بیماری زای شناخته شده مقایسه کنند. یک تطابق نزدیک موجب فعال شدن هشدار می شود. مایکروسافت برای طراحی حمله خود، از چندین مدل پروتئین مولد (از جمله مدل خود با نام EvoDiff) برای طراحی مجدد سموم استفاده کرد، آنها ساختار سموم را به شکلی تغییر دادند که از نرم افزار غربالگری عبور کند، اما پیش بینی می شد که عملکرد کشنده خویش را حفظ کند. پژوهشگران می گویند این تمرین بطورکامل دیجیتالی بوده و هیچ گاه هیچ پروتئین سمی تولید نکرده اند و این اقدام برای ممانعت از هرگونه تصور بر اساس توسعه سلاح های بیولوژیک توسط این شرکت انجام شد. باآنکه بعضی از مولکول های طراحی شده توسط هوش مصنوعی هنوز می توانند از تشخیص فرار کنند، اما مایکروسافت می گوید قبل از انتشار نتایج، به دولت ایالات متحده و سازندگان نرم افزار هشدار داده است و آنها نیز سیستم های خویش را پچ (Patch) کرده اند. همین طور آنها برای اطمینان از سوءاستفاده نشدن از این پژوهش، نمی گویند که از هوش مصنوعی خواسته اند کدام پروتئین های سمی را بازطراحی کند. در عین حال، برخی پروتئین های خطرناک مانند ریسین (یک سم موجود در دانه های کرچک) و پریون های عفونی که عامل بیماری جنون گاوی هستند، به خوبی شناخته شده اند.اختلاف نظر در رابطه با بهترین راه دفاع دین بال، از بنیاد نوآوری آمریکا می گوید: «این کشف، همراه با پیشرفت های سریع در شبیه سازی های بیولوژیکی با کمک هوش مصنوعی، نیاز فوری و روشنی را به وجود می آورد تا روش های قوی تری برای غربالگری توالی های اسید نوکلئیک (DNA) ایجاد شود و سازوکارهای مطمئنی برای تأیید و اجرای این تکنیک ها به کار گرفته شود.» بال خاطرنشان کرده است که هم اکنون، دولت ایالات متحده، بررسی و غربالگری سفارشات DNA را یک خط دفاعی حیاتی در امنیت ملی می داند. در ماه می گذشته، ترامپ با صدور یک فرمان اجرائی در رابطه با ایمنی تحقیقات بیولوژیکی، خواهان بازبینی کلی در آن سیستم شده بود؛ هرچند کاخ سفید تابحال سفارش های جدیدی در این خصوص منتشر نکرده است. در مقابل، برخی دیگر شک دارند که اتکا بر سنتز تجاری DNA (تولید DNA در شرکت ها) بهترین راه حل دفاعی در مقابل افراد خرابکار باشد. مایکل کوهن، محقق ایمنی هوش مصنوعی از دانشگاه کالیفرنیا، برکلی، اعتقاد دارد که همیشه روش هایی برای پنهان کردن توالی های خطرناک وجود خواهد داشت و مایکروسافت می توانست آزمون کشف لطمه پذیری خویش را سخت تر انجام دهد. کوهن می گوید: «به نظر می رسد این چالش آزمایشی ضعیف بوده و ابزارهای امنیتی که پچ شده اند نیز بازهم بارها شکست می خورند. این طور چنین پیداست که تمایلی برای پذیرش این حقیقت وجود ندارد که به زودی مجبور خواهیم شد از این نقطه کنترل اصلی فرضی عقب نشینی نماییم. بنابراین، بهتر است بدنبال زمینه هایی باشیم که واقعا توان دفاع از آنها را داریم.» او بر این باور است که امنیت زیستی احتمالا باید در خود سیستم های هوش مصنوعی ادغام شود؛ یا بصورت مستقیم در ساختار مدلها یا بوسیله کنترل هایی بر اطلاعاتی که این مدلها منتشر می کنند. اما کلور (از شرکت تولید DNA) اعتقاد دارد نظارت بر سنتز ژن بازهم یک روش عملی برای شناسایی تهدیدهای زیستی است. او دلیل این مساله را در این می بیند که تولید DNA در ایالات متحده تحت کنترل چند شرکت محدود است که همکاری نزدیکی با دولت دارند. در مقابل، فناوری مورد نیاز برای ساخت و آموزش مدلهای هوش مصنوعی به مراتب گسترده تر شده است. کلور می گوید: «نمی توانید آن غول (هوش مصنوعی) را باردیگر به بطری بازگردانید. اگر فردی منابع ضروری جهت فریب دادن ما برای ساختن توالی DNA را داشته باشد، احتمالا می تواند به سادگی یک مدل زبان بزرگ (LLM) را نیز آموزش دهد.» منبع: technologyreview منبع: مینی كامپیوتر 1404/07/13 16:01:01 5.0 / 5 109 تگهای خبر: استارتاپ , تولید , دانشگاه , دیجیتال این مطلب را می پسندید؟ (1) (0) X تازه ترین مطالب مرتبط جنگ طلب نیستیم انسجام ملی ما بعد از جنگ 12 روزه بیشتر شده است گران ترین و ارزان ترین اینترنت جهان 7 باور درباره ی اندروید که در سال 2025 دیگر واقعیت ندارند پیام موتور محرک اقتصاد دیجیتال کشور است نظرات بینندگان مینی کامپیوتر در مورد این مطلب لطفا شما هم در مورد این مطلب نظر دهید = ۹ بعلاوه ۲ درج دیدگاه