محققان دانشگاه شیکاگو ابزاری را توسعه داده‌اند که به هنرمندان این توانایی را می‌دهد تا هنر دیجیتال خود را «مسموم» کنند تا توسعه‌دهندگان را از آموزش سیستم‌های هوش مصنوعی (AI) بر روی کار خود باز دارد.

این ابزار که «Nightshade» نامیده می‌شود، به نام خانواده گیاهان، که برخی از آن‌ها به‌خاطر توت‌های سمی‌شان شناخته می‌شوند، تصاویر را به گونه‌ای تغییر می‌دهد که گنجاندن آن‌ها مجموعه داده‌های مورد استفاده برای آموزش هوش مصنوعی را با اطلاعات نادرست آلوده می‌کند.

بر اساس گزارشی از بررسی فناوری MIT، Nightshade تغییر می کند پیکسل های یک تصویر دیجیتال به منظور فریب یک سیستم هوش مصنوعی در تفسیر نادرست آن. به عنوان نمونه، Tech Review متقاعد کردن هوش مصنوعی مبنی بر اینکه تصویر یک گربه یک سگ است و بالعکس را ذکر می کند.

با انجام این کار، توانایی هوش مصنوعی برای تولید خروجی های دقیق و حساس از نظر تئوری آسیب می بیند. با استفاده از مثال بالا، اگر کاربری درخواست تصویری از یک “گربه” از هوش مصنوعی آلوده را داشته باشد، ممکن است در عوض سگی را با برچسب گربه یا ترکیبی از تمام “گربه ها” در مجموعه آموزشی هوش مصنوعی دریافت کند، از جمله آنهایی که در واقع تصاویری از سگ هایی که توسط ابزار Nightshade اصلاح شده اند.

مربوط: گروه موسیقی یونیورسال برای محافظت از حقوق هنرمندان در برابر نقض هوش مصنوعی وارد همکاری می شود

یکی از کارشناسانی که کار را مشاهده کرد، ویتالی شماتیکوف، استاد دانشگاه کورنل، معتقد است که محققان “هنوز از دفاع قوی در برابر این حملات اطلاعی ندارند.” مفهوم آن این است که حتی مدل های قوی مانند ChatGPT OpenAI می تواند در معرض خطر باشد.

تیم تحقیقاتی Nightshade توسط پروفسور بن ژائو از دانشگاه شیکاگو رهبری می شود. ابزار جدید در واقع گسترش نرم افزار حفاظت از هنرمندان موجود آنهاست تماس گرفت لعاب. در کارهای قبلی خود، آنها روشی را طراحی کردند که به وسیله آن یک هنرمند می توانست سبک آثار هنری خود را مبهم یا “لعاب” کند.

برای مثال، هنرمندی که یک پرتره زغالی خلق کرده است، می‌تواند به یک سیستم هوش مصنوعی به‌عنوان هنر مدرن ظاهر شود.

نمونه هایی از تقلید هنر هوش مصنوعی بدون لعاب و لعاب. منبع تصویر: شان و. al., 2023.

طبق بررسی فناوری، Nightshade در نهایت در Glaze پیاده سازی خواهد شد که در حال حاضر اجرا شده است در دسترس رایگان برای استفاده از وب یا دانلود در وب سایت دانشگاه شیکاگو.