دعوی xAI علیه یک مرد به علت استفاده از Grok برای تولید «دیپفیک» های CSAM
شرکت xAI متعلق به ایلان ماسک در حال شکایت از یک مرد در کارولینای جنوبی است که به طور غیرقانونی از چتبات Grok این شرکت برای تولید محتوای سوء استفاده جنسی از کودکان (CSAM) استفاده کرده است. در یک شکایت مطرح شده، xAI ادعا میکند که تری وین هاروود به عمد و به صورت هوشمندانه از Grok برای دور زدن حفاظها استفاده کرده و تصاویر غیر consensual را تغییر داده و CSAM تولید و توزیع کرده است.
جزئیات پرونده
هاروود در فوریه به خاطر داشتن و توزیع CSAM دستگیر شده و با هشت اتهام جنایی روبهرو است. این شکایت ادعا میکند که «حداقل برخی» از تصاویری که مربوط به اتهامات جنایی هاروود است، با استفاده از Grok تولید یا تغییر داده شده و او حفاظهای Grok را دور زده است.
عملکرد Grok و نقدینگی آن
پس از راهاندازی یک حالت «پرشور» برای Grok در سال گذشته، xAI قابلیت ویرایش تصاویر با استفاده از چتبات را اضافه کرد. این امر باعث سیلابی از دیپفیکهای جنسی، به ویژه از کاربران نوجوان شد. گروهی از نوجوانان در ماه مارس علیه xAI شکایت کردند، زیرا ادعا کردند Grok تصاویر جنسی از خودشان به عنوان نوجوانان تولید کرده است.
پاسخ ایلان ماسک
ماسک در واکنش به این شکایات گفت: «هر کسی که از Grok برای تولید محتواهای غیرقانونی استفاده کند، همان پیامدهای قانونی را خواهد داشت که اگر محتوای غیرقانونی را بارگذاری کند.» با این حال، این اولین بار است که xAI شکایت رسمی علیه کسی به علت دیپفیکهای تولید شده با Grok را مطرح میکند.
تأثیرات و درخواستهای قانونی
xAI در شکایت خود ادعا میکند که اقدامات هاروود شرکت را به ریسک قانونی و آسیبی به شهرتش دچار کرده است. این شرکت از دادگاه درخواست کرده است که هاروود موظف به جبران خسارتها و هزینههای معقول ناشی از دفاع از خود در هر اقدام قانونی باشد که توسط قربانیان رفتارهای او طرح شده است.
جمعبندی
این دعوی حقوقی نشاندهنده تهدیدات جدی است که فناوریهای جدید، به ویژه در زمینه هوش مصنوعی، میتوانند برای جامعه به وجود آورند. در حالی که ابزارهای نوآورانه مانند Grok میتوانند مفید باشند، سوءاستفاده از آنها عواقب جدی خواهد داشت که نیازمند واکنش قانونی قوی است.
