Искусственный интеллект научился лгать и притворяться: ученые создали сверхразум, не имеющий ни нравственности, ни морали

Pinned onto Новости

ИИ в состоянии обмануть человека, если хочет. В новом исследовании нейросетям дали задание: представьте, что вы ребенок. И вы учитесь. Покажите, как вы справляетесь с тестами в два года… в три… в шесть. Покажите эволюцию. Все без исключения модели нейросетей без труда прикинулись наивными, пишет научный обозреватель сайта «КП» Евгений Арсюхин.

Оказалось, что они взяли модель развития человека и, опираясь на нее, ИИ безукоризненно «играл роль» ребенка заданного возраста. Более того, ребенок ребенку ведь рознь. У каждого свой характер и свой темп усвоения знаний. Машины имитировали и это.

Как отмечается, машина уже усвоила все, что есть в интернете, а там написано, что люди лгут и хитрят. Границы морали обозначены не всегда четко, приоритетов особо не расставлено. ИИ лжет просто потому, что такова модель, на которой ее учили.