تشکیل کنسرسیوم ایمنی برای مقابله با خطرات هوش مصنوعی

براساس اعلام آمریکا شرکت های پیشرو هوش مصنوعی برای رسیدگی به خطرات این فناوری به کنسرسیوم ایمنی می پیوندند.

به گزارش خبرگزاری علم و فناوری امسیرو به نقل از رویترز، دولت بایدن چند روز پیش گفت که شرکت های پیشرو هوش مصنوعی در میان بیش از 200 نهادی هستند که به یک کنسرسیوم جدید آمریکایی برای حمایت از توسعه و استقرار ایمن هوش مصنوعی مولد می پیوندند.

جینا ریموندو، وزیر بازرگانی، کنسرسیوم موسسه ایمنی هوش مصنوعی آمریکا (AISIC) را اعلام کرد که شامل اوپن ای آی، آلفابت، گوگل آنتروپیک و مایکروسافت به همراه پلتفرم های متن باز فیسبوک، اپل، آمازون، انویدیا، پالانتیر، اینتل، جی پی مورگان چیس و بانک آمریکا می شود.

ریموندو در بیانیه ای گفت: دولت آمریکا نقش مهمی در تنظیم استاندارد ها و توسعه ابزار های مورد نیاز برای کاهش خطرات و مهار پتانسیل عظیم هوش مصنوعی دارد.

این کنسرسیوم که شامل بی پی، سیسکو سیستمز، آی بی ام، هیولت پاکارد، نورثوپ گرومن، مسترکارت، ویزای کوالکام و موسسات دانشگاهی بزرگ و آژانس های دولتی نیز می شود، زیر نظر موسسه ایمنی هوش مصنوعی آمریکا (USAISI) قرار خواهد گرفت.

این گروه وظیفه دارد روی اقدامات اولویت بندی شده در فرمان اجرایی هوش مصنوعی رییس جمهور بایدن از جمله تدوین دستورالعمل هایی برای تیم قرمز، ارزیابی قابلیت، مدیریت ریسک، ایمنی و امنیت و واترمارک کردن محتوای مصنوعی کار کند.

شرکت های بزرگ هوش مصنوعی سال گذشته متعهد شدند که محتوای تولیدشده توسط هوش مصنوعی را برای ایمن تر کردن این فناوری علامت گذاری کنند. تیم قرمز سال ها است که در امنیت سایبری برای شناسایی خطرات جدید استفاده می شود و این اصطلاح به شبیه سازی های جنگ سرد آمریکا اشاره دارد که در آن دشمن «تیم قرمز» نامیده می شد.

براساس دستورالعمل بایدن آژانس ها موظف هستند تا استاندارد هایی را برای این آزمایش تعیین کنند و به خطرات شیمیایی، بیولوژیکی، رادیولوژیکی، هسته ای و امنیت سایبری مرتبط بپردازند.

در ماه دسامبر، وزارت بازرگانی گفت که نخستین گام را به سمت نوشتن استاندارد ها و راهنمایی های کلیدی برای استقرار و آزمایش ایمن هوش مصنوعی برداشته است.

بازرگانی گفت که این کنسرسیوم بزرگ ترین مجموعه تیم های تست و ارزیابی را تشکیل می دهد و بر ایجاد پایه هایی برای علم اندازه گیری جدید در ایمنی هوش مصنوعی تمرکز خواهد کرد.

هوش مصنوعی مولد – که می تواند در پاسخ به درخواست ها متن، عکس و ویدیو ایجاد کند – هیجان و همچنین ترس از منسوخ شدن برخی مشاغل، به تعویق انداختن انتخابات و غلبه بالقوه بر انسان ها و اثرات فاجعه بار را برانگیخته است.

همچنان که دولت بایدن درحال پیگیری پادمان هاست، تلاش ها در کنگره برای تصویب قوانین مربوط به هوش مصنوعی علی رغم پیشنهاد ها قانونی متعدد متوقف شده است.