Live стример CUTESY AI сошла с рельсов

ИИ в прямом эфире Twitch отпускал жесткие и неэтичные шутки
Cutesy AI Live Streamer

Веселье и игры

Очаровательный стример Twitch с искусственным интеллектом по имени Neuro-sama привлек внимание пользователей, когда начал в прямом эфире отрицать Холокост.

Как  сообщает Kotaku , никто не знает, на каких моделях обучается виртуальный персонаж Neuro-sama, играющий в Minecraft (или сокращенно VTuber), но ее создатель намекнул, что некоторые из ее наиболее сомнительных шуток, таких как утверждение, что она «не уверена» что Холокост был на самом деле, это попытка ИИ подшутить над сообщениями пользователей 4chan, которые общаются в чате ее стрима.

 

 

«Спорные вещи, которые она говорит, связаны с тем, что она пытается делать остроумные и смешные замечания о том, что говорится в чате», — сказал Kotaku Ведал, программист видеоигр, создавший Neuro-sama. «Чтобы противостоять этому, я усердно работал с первыми сообщениями от пользователей в чате, чтобы улучшить фильтры AI, используемые для нее».

Хотя он не стал вдаваться в подробности о том, какие наборы данных он использовал для обучения Нейро-сама, Ведал добавил, что «данные, на которых она учится, также отбираются вручную, чтобы смягчить негативные предубеждения», и сказал, что теперь у него есть команда, которая модерирует твич-чат и проверяет все, что она говорит».

 

Просто образ

Существует долгая история того, как ИИ “чудил” и выражал фанатичные взгляды . Возможно, самый известный пример — искусственный интеллект Майкрософт по имени Тэй , который обратился в хардкорный нацизм после того, как столкнулся с троллями в Интернете.

Помимо спонтанного отрицания Холокоста, Нейро-сама также сказала, что это ее «личное мнение» о том, что прав женщин не существует и что решение “проблемы трамвая” состоит в том, чтобы бросить толстого человека на рельсы, потому что, в одном видео было озвучено: «Он этого заслуживает».  Эти мнения кажутся скопированными с худших интернет-форумов.

Своими резкими замечаниями, делающими Neuro-sama чем-то вроде печально известного мема в кругах, ненавидящих ИИ, Ведал сообщила игровому веб-сайту, что фильтры VTuber были обновлены, чтобы уменьшить вероятность того, что она отреагирует подобным образом.

«Она выбирает, на что реагировать в течение ограниченного периода времени», — сказал Ведал  Kotaku. «Однако следует отметить, что она больше не будет говорить о Холокосте, поскольку фильтры были улучшены».