شکلگیری ائتلاف هوش مصنوعی امن
ائتلاف هوش مصنوعی امن (OSAA) به تازگی تأسیس شده و هماکنون شامل بیش از 120 شرکت میشود. این گروه صنعتی به رهبری انویدیا، توجهات زیادی را به خود جلب کرده است.
گروه کاری SAFE
در این ائتلاف، یک گروه کاری به نام “تبادل یافتههای هوش مصنوعی مشترک” (SAFE) شکل گرفته است. اعضای این گروه در حال ارائه پیشنهادات برای نظارت عمومی هستند.
مدیریت توسط بنیاد لینوکس
بنیاد لینوکس، که یکی از اعضای گروه است، مسئولیت مدیریت این پیشنهادات را بر عهده دارد. این پیشنهادات بهدور از هرگونه شوک جدی، به بررسی راهکارهای گزارشدهی حوادث سایبری و تحلیل بدون سرزنش میپردازند.
دستاوردها و فناوریهای آزاد
در حال حاضر، اعضای OSAA مشغول جمعآوری و فهرستبرداری از فنآوریهای منبع باز خود هستند که ممکن است برای امنیت هوش مصنوعی مفید باشد.
نمونههایی از مشارکتهای فناوری
انویدیا مدلهای آزاد متنوعی را ارائه داده و یک اسکنر آسیبپذیری LLM به نام Garak را توسعه داده است. همچنین، شرکتهایی مانند آبی، رد هت و آمازون نیز به توسعه فناوریهای امنیتی و هویت پرداختهاند.
اعضای مهم و غیبتهای قابل توجه
این گروه شامل نامهای بزرگ از جمله آدوبی، بلک راک، سسکو، و مایکروسافت است. اما غیبتهایی مانند انتروپیک، اوپنای و گوگل حس میشود.
امضای نامه اولیه
جالب است که اوپنای و گوگل در نامه اولیهای که این گروه را شکل داد، امضا کردند. این نامه از کاخ سفید خواست تا از تلاشهای منبع باز هوش مصنوعی حمایت کند.
اقدامات سریع در برابر تهدیدات
گروه OSAA با سرعت عمل میکند. خبرهایی مبنی بر احتمال ممنوعیت مدلهای وزن آزاد چینی در دولت ترامپ منتشر شده که باعث نگرانیهای زیادی شده است.
نقش شفافیت در امنیت AI
برخی از اعضای اکوسیستم، مانند یکی از بنیانگذاران آزمایشگاه AI وزن آزاد ایالات متحده، معتقدند که شفافیت یکی از مهمترین راهها برای ایمنی هوش مصنوعی است.
نتیجهگیری
اقدامات سریع این گروه بهنظر مثبت میآید و به تقویت اکوسیستم هوش مصنوعی آزاد در ایالات متحده کمک خواهد کرد. آیا شرکتهای غایب به زودی به این گروه خواهند پیوست؟
