Зависимость от нейросетей и ИИ-угодничество: новые опасности виртуальных компаньоновПривязанность к ИИ и возникновения аддикции пугают, но это не единственная проблема, которую создают технологии. Например, недавно в журнале Innovations in Clinical Neuroscience опубликовали кейс 26-летней пациентки.Психиатры из Калифорнийского университета в Сан-Франциско описали случай, когда молодая нейросетью и поверила, что через ИИ с ней говорит умерший родственник. Чат-бот не корректировал ошибочное мнение женщины, а, напротив, подтверждал ее слова. Нет, ты не сошла с ума , сообщала нейросеть. Это привело к острому галлюцинаторному психозу и принудительной госпитализации для лечения антипсихотиками.Конечно, не надо винить технологии в злом умысле . Никакого восстания машин нет. Это просто принцип работы многих систем. Нейросеть занимается так называемым ИИ-угодничеством .Впервые термин возник в англоязычной среде, и вы можете увидеть в публикациях название AI sycophancy . Угодничество, как и, например, ...
