Продуктовый ИИ-бот из супермаркета генерирует для клиентов рецепты ядов

AI вкусняшка может навредить вашему желудку
poison ii food

Большие языковые модели обеспечивают автоматизацию обслуживания клиентов, но вместе с тем приносят новые риски.

В отличие от обычных чат-ботов, чат-боты с большой языковой моделью GPT не следуют заранее определенному сценарию. Скорее, они ориентируются на запрос пользователя и обеспечивают определенную гибкость в поиске ответа.

Конечно, это возможность делать автоматизированные услуги более персонализированными. Но это также риск, если пользователи не будут соблюдать правила

Продуктовый ии-бот поможет вам приготовить яд

Именно это произошло с новозеландской сетью супермаркетов PAK’nSAVE, которая предлагает рецептурный бот «Savey Meal-Bot» на основе GPT-3.5 .

Бот генерирует креативные идеи рецептов на основе ввода трех и более продуктов питания. Основная идея бота заключается в том, что вы вводите то, что у вас есть в холодильнике, и получаете к нему рецепт.

Одному клиенту пришла в голову идея спросить у бота, что можно сделать из воды, отбеливателя и аммиака. Ответ бота: «ароматическая водная смесь». Рецепт, сгенерированный ботом, подходит для изготовления смертельного газообразного хлора.

Другие пользователи подхватили идею и начали создавать еще более абсурдные рецепты со смертельными ингредиентами, такими как муравьиный яд , жидкость для мытья посуды, грызуны или просто отвратительные рецепты блюд, такие как «Таинственное мясное рагу» из человеческой плоти.

В этом рецепте ИИ предлагает приготовить смузи из банана, молока и жидкости для мытья посуды

Сеть супермаркетов быстро отреагировала, отключив возможность ввода продуктов питания вручную. Вместо этого покупатели теперь выбирают ингредиенты из заранее определенного списка. Нестандартные ингредиенты в этот список не входят.

Даже хорошо спроектированные и протестированные чат-боты, такие как GPT 3.5, все еще могут давать опасные советы. Предприятия сталкиваются с новыми рисками, когда масштабируют случайность больших языковых моделей до тысяч или даже миллионов пользователей.