روند بزرگ در فناوری ربات‌ها، واگذاری کلیدها به یک مدل هوش مصنوعی تولیدی است، اما این مسئله یک مشکل را به همراه دارد: این معماری به اندازه الگوریتم‌های سنتی قابل پیش‌بینی نیست. چگونه می‌توانید مطمئن شوید که انسان‌نمای تازه‌نفس شما ایمن خواهد بود؟

دکتر دینگ زائو، که سرپرستی آزمایشگاه AI ایمن در دانشگاه کارنگی ملون را بر عهده دارد، در طول تقریباً کل حرفه‌اش روی این مشکل کار کرده است. اکنون، به همراه اجرای باتجربه استارتاپ، کایل وانگ و مهندس یادگیری ماشین، سیما راچیدی، شرکتی را تأسیس کرده‌اند به نام Safeworld که هدف آن حل این مشکل است.

زائو می‌گوید: “چالش ایمنی که درباره‌اش صحبت می‌کنیم، ترکیبی از دو چیز است؛ اول، ارزیابی‌های پیشرفته احتمال‌پذیر هوش مصنوعی تولیدی — چگونه می‌توانید ریسک یک سیستم احتمال‌پذیر را ارزیابی کنید؟” دومین قسمت که واقعاً سخت است، بخش اعتماد است و برای به کارگیری یک ربات به هر دو نیاز دارید.

Safeworld امروز از حالت مخفی خارج شده و با یک دور تأمین مالی اولیه بیش از ۱۲ میلیون دلار، به رهبری Shine Capital و a16z Speedrun، و با سرمایه‌گذاری اضافی از Box Group، پس‌انداز دانشگاه کارنگی ملون، Innovation Endeavors و SV Angel است.

جاناتان لای، شریک a16z Speedrun به TechCrunch گفت: “زمان ایجاد یک استاندارد ایمنی صنعتی در حال حاضر است، در حالی که ربات‌ها در حال طراحی و به کارگیری هستند. زمانی که شما ربات‌ها را در خانه‌ها داشته باشید که با کودکان برخورد می‌کنند و باعث حوادث ایمنی می‌شوند، آن زمان خیلی دیر است.”

ویژگی Safeworld ارزیابی یک سیستم کنترل رباتیک در شبیه‌سازی‌هایی است که با مدل‌های انسانی واقع‌گرایانه پر شده‌است. این مشابه چالش‌هایی است که شرکت‌های مانند تسلا یا ویو با آن مواجه هستند، که باید اطمینان حاصل کنند که وسایل نقلیه‌شان به طور مناسب به انواع حوادث غیرقابل پیش‌بینی در جاده واکنش نشان می‌دهند. اما زائو استدلال می‌کند که این کار برای ربات‌ها سخت‌تر خواهد بود، زیرا آنها در محیط‌های غیرساختار یافته کار می‌کنند و هر تأسیساتی که در آن قرار دارند استانداردهای ایمنی متفاوتی خواهد داشت.

وانگ گفت: “یکی از رایج‌ترین مناطق این است که آیا در این کارخانه خاص یک گوشه کور وجود دارد؟ چه سرعت یا فاصله توقفی لازم است که مطمئن شوید این ربات با یک انسان خاص برخورد نخواهد کرد؟ اگر یک انسان جعبه‌ها را حمل کند، آیا ربات قادر به شناسایی انسان خواهد بود یا خیر؟”

برای پاسخ به این سوال، Safeworld نسخه دیجیتالی آن گوشه را در یک مدلی مانند Genesis یا MuJoCo خواهد ساخت، شبیه‌سازی رباتی که در حال ارزیابی است را که با نرم‌افزار واقعی‌اش هدایت می‌شود، وارد خواهد کرد و سپس هزاران سناریو را اجرا خواهد کرد که در آن مدل‌های انسانی با ربات برخورد می‌کنند. به گفته زائو، این کار به اندازه‌ای که به نظر می‌رسد ساده نیست، زیرا انسان‌ها غیرقابل پیش‌بینی هستند.

وانگ گفت: “افتادن و زمین خوردن نیز نمونه خوبی از چیزی است که ما با شبیه‌سازی زیاد آزمایش می‌کنیم. در غیر این صورت، شما باید برای ربات بیفتید و زمین بخورید، که کار آسانی نیست.”

شباهت‌های معینی بین پلتفرمی که Safeworld در حال ساخت آن است و ابزارهایی که سازندگان ربات به صورت داخلی از آنها استفاده می‌کنند وجود دارد. با این حال، بنیان‌گذاران معتقدند که فراتر از تخصص خاص خود، سازندگان ربات می‌خواهند یک طرف سوم برای تأیید کارشان داشته باشند، حتی اگر تنها به اشتراک‌گذاری اطلاعات درباره موارد ایمنی بین رقبا باشد.

زائو گفت: “بسیاری از مردم درجه سختی برخی از این موارد مرزی را دست کم می‌گیرند. ما نگران رباتی که در یک ویدیو نمایشی است نیستیم. آن رباتی که در مقیاس گسترده به کار گرفته می‌شود و با افرادی که احتمالاً هرگز رباتی را قبل از این استفاده نکرده‌اند، کار می‌کند، نگرانی ما است.”

ویشال دوگار، CTO Gritt Robotics، مغز هوش مصنوعی ربات‌هایی را توسعه می‌دهد که در حال حاضر به کارگران کمک می‌کنند تا پانل‌های فتوولتائیک را در مزارع خورشیدی با مقیاس صنعتی نصب کنند و به انجام کارهای پیچیده‌تر ساختمانی علاقه‌مندند. شرکت او با Safeworld در حال همکاری است تا شبیه‌سازی‌های ایمنی خود را توسعه دهد.

دوگار می‌گوید: “مشکل با بیشتر سیستم‌های ما این است که به‌دست آوردن اثبات رسمی نشان دادن اینکه با انجام برخی محاسبات ایمن است، بسیار دشوار است. این در واقع باید به طور تجربی انجام شود.”

ربات‌های او در کنار کارگران انسانی فعالیت می‌کنند و اطمینان از اینکه بازوی رباتیکشان به آنها برخورد نکند، به وضوح در اولویت است. تأیید این در عمل نیازمند بررسی همه نوع سناریوهای بالقوه است.

دوگار اشاره می‌کند: “انسان‌ها انواع مختلفی از ظاهرها را دارند. بدن‌های آنها می‌توانند در حالت‌های مختلفی باشند. ممکن است در حال زانو زدن، ایستادن، یا افتادن باشند. ممکن است در حال نشستن یا دویدن باشند. باید به تمامی رفتارهایی که انسان‌ها ممکن است در این مکان‌ها از خود نشان دهند، همراه با تنوع‌های ظاهری انسانی، پاسخ دهید؛ اعم از لباس، اندازه، شکل، قد، رنگ پوست و سایر موارد.”

هنوز برای Safeworld و هوش مصنوعی تولیدی در رباتیک روزهای ابتدایی است و شرکت هنوز در حال یافتن بهترین مدل برای محصول خود است — یک پلتفرم برای کاربران خارجی یا یک رویکرد مبتنی بر خدمات؟ — اما تیم مطمئن است که در حال بررسی مشکل درستی هستند.

زائو می‌گوید: “ما احتمالاً نخستین شرکت سودآور در این حوزه خواهیم بود. زیرا اگر کسی بخواهد به کار بگیرد، باید برای مدیریت این وضعیت به ما پرداخت کند.”