Group-IB: в даркнете продаются более 100 тысяч скомпрометированных аккаунтов пользователей ChatGPT

— Можно сделать анализ, допустим, картины пользователя, таргетировать, продавать под рекламу — сам простой способ. Используя как бы информацию по целевой аудитории, подготавливать под это дело фишинговые атаки, целевые. Да много можно чего делать. То есть если там высокопоставленные люди, можно пытаться качать что-то в сторону компромата. Всякие варианты возможны. То есть точки выхода, то есть человек с телефона выходит и информацию об этом можно посмотреть, то есть высокопоставленный человек, то есть отследили его телефон по этим данным. Получать какую-то компрометирующую информацию или чувствительные данные.

— Не дошли мы еще до того уровня, когда сама нейросеть могла бы слить такие данные и есть ли, может быть, потенциально такая опасность?

— В текущем раскладе нейросеть — это не самостоятельный живой организм, как бы его ни воспринимали, это машина, натренированная данными, то есть моделями, и кормят ее данными люди. Как люди туда залили какие модели, так она себя и ведет. Поэтому если за этим стоят как бы люди, то есть легко могли накормить нейросеть такими данными, чтобы она сливала информацию. Нет же как бы знаний и понимания о том, как устроен тот же ChatGPT с точки зрения безопасности и как он хранит свои данные внутри себя, этой нет информации. Но я все-таки предполагаю, что за утечкой стоят конкретные люди, не сама сеть.