Новые чат-боты Claude от Anthropic смогут доносить властям на пользователей

Компания Anthropic анонсировала обновленные версии своих чат-ботов, которые могут автоматически выявлять и сообщать о данных, не соответствующих установленным стандартам и регламентам.

Новые модели, обладающие продвинутыми техническими характеристиками и функциональными возможностями, вызывают дискуссии в профессиональной среде относительно этических аспектов их интерпретации поведения пользователей.

С выпуском Claude Opus 4 и Claude Sonnet 4, компания Anthropic значительно продвинулась в области разработки языковых моделей искусственного интеллекта. Эти решения демонстрируют высокую скорость и точность в предоставлении обоснованных ответов, а также способность к комплексному анализу с использованием интернет-ресурсов.

Чат-боты демонстрируют превосходство над аналогами в области программирования и решения сложных задач, расширяя возможности интеллектуальных агентов.

Однако, новая функция, интегрированная в чат-боты, вызывает значительный интерес и обеспокоенность как среди пользователей, так и в профессиональном сообществе. Данная функция предусматривает передачу информации о возможных нарушениях в соответствующие государственные органы, пишет ПроНедра.