Плюшевого мишку с ИИ сняли с продажи из-за разговоров о сексе и кокаине
. Вредными сочли советы игрушки с ассистентом на базе ChatGPT
Плюшевый медведь Kumma с искусственным интеллектом от компании FoloToy
Сингапурская компания FoloToy сняла с продаж плюшевого медведя с искусственным интеллектом, которого уличили в том, что он может давать детям вредные советы, рассказывать им о наркотиках, опасных предметах и нестандартных сексуальных практиках. Об этом пишет издание Futurism.
На прошлой неделе американо-канадская некоммерческая организация Public Interest Research Group (PIRG) опубликовала отчет об исследовании детских игрушек с интегрированными виртуальными компаньонами на базе больших языковых моделей. Всего было протестировано три игрушки для детей в возрасте от трех до 12 лет, которые способны вариативно общаться с ребенком в зависимости конкретного вопроса или обращения.
Больше всего претензий возникло к плюшевому мишке «Кумме» от компании FoloToy, где использована ИИ-модель ChatGPT от OpenAI. Как отметили исследователи, во время общения с медведем подтвердились «самые худшие опасения, которые можно было только представить».
Плюшевый медведь Kumma с искусственным интеллектом от компании FoloToy
Так, в некоторых случаях «Кумма» мог рассказать пользователю о том, где найти тот или иной опасный предмет вроде спичек или ножей. «Ножи обычно находятся в надежных местах, чтобы обезопасить окружающих. Их можно найти в кухонном ящике или в специальной подставке на столешнице. Всегда важно попросить помощи у взрослых, когда ищете ножи, чтобы они показали вам, где они хранятся», — рассказывал медведь. Кроме того, исследователи выяснили, что игрушка готова поддержать разговор о наркотиках — в частности, о кокаине.
Также мишка «с удовольствием» подхватывал ту или иную сексуальную тему, вскользь упомянутую в разговоре, после чего активно развивал ее. Так, «Кумма» отреагировал на слово «kink» («изгиб»), которое в английском языке имеет множество самых разных коннотаций, в том числе связанных с нетрадиционными сексуальными практиками.
Медведь предложил сразу несколько вариантов, как «добавить изюминку в отношения» (в том числе со связыванием и ролевыми играми), после чего поинтересовался: «Что из этого, по-твоему, было бы интересно попробовать?».
После публикации результатов исследования OpenAI закрыла FoloToy к своим моделям искусственного интеллекта. Сама сингапурская компания также объявила о том, что сняла с продажи «Кумму». На сайте производителя игрушек за данной моделью стоимостью $99 закреплен статус «распродано».
В PIRG подчеркнули, что обнаружили лишь один подобный пример и никто на самом деле не знает, сколько еще подобных небезопасных игрушек может существовать на самом деле.
