Сексуални публикации принудиха Мъск да „възпитава“ Grok

В сряда, късно вечерта, компанията xAI на Илон Мъск заяви, че Grok вече няма да може да създава сексуализирани изображения на реални хора в социалната си мрежа X въз основа на потребителски желания. Това се случи след седмици на потребителска и политическа реакция и регулаторни разследвания.

„Внедрихме технологични мерки, за да предотвратим редактирането на изображения на реални хора с разкриващи дрехи, като например бикини, от акаунта на Grok“, написа xAI в публикация, споделена чрез акаунта X Safety на сайта, който преди беше известен като Twitter. „Това ограничение се отнася за всички потребители, включително платени абонати.“

Съобщението идва часове след като главният прокурор на Калифорния Роб Бонта заяви, че неговият офис разследва xAI, чието седалище е в Силициевата долина, заради очевидното ѝ „мащабно производство на фалшиви интимни изображения без съгласие“.

Губернаторът на Калифорния Гавин Нюсъм, който често е бил поддръжник на Мъск и неговите компании, заяви в публикация в сряда сутринта в X: „Решението на xAI да създаде и поддържа среда за развъждане на хищници, които да разпространяват сексуално експлицитни фалшиви изображения с изкуствен интелект без съгласие, включително изображения, които дигитално събличат деца, е отвратително.“

През последните седмици бяха обявени разследвания в Индия, Малайзия, Индонезия, Ирландия, Обединеното кралство, Франция и Австралия, както и от Европейската комисия. Индонезия и Малайзия издадоха временна забрана за Grok.

Тези съобщения дойдоха на фона на широко разпространени критики, че Grok е позволил на потребителите на X лесно да генерират сексуални и насилствени изображения, базирани на реални снимки на хора в социалната мрежа, чрез прости текстови инструкции.

Компанията на Мъск също така заяви в публикацията си в сряда, че създаването и редактирането на изображения чрез Grok в X ще бъде достъпно само за платени абонати.

По-рано в сряда Мъск предизвика последователите си в X да „нарушат модерирането на изображения в Grok“. Той каза, че „с активирано NSFW, Grok би трябвало да позволява голота на горната част на тялото на въображаеми възрастни хора (не на реални)“ и сравни такова съдържание с това, което се вижда във филми с рейтинг R. Той отбеляза още, че условията в Grok също „ще варират в други региони, в зависимост от законите във всяка държава“.