Может ли искусственный интеллект соблюдать человеческие нормы морали

Студенты бизнес-школы Оксфордского университета, изучающие этику в области искусственного интеллекта (ИИ), попытались ответить на вопрос, может ли такая система быть этичной.

В своём эссе авторы описали ситуацию, в которой исследователи устроили дебаты об этике... с ИИ. Искусственный интеллект утверждал, что «ИИ никогда не будет этичным». «Это инструмент, и, как любой другой инструмент, он используется как во благо, так и во вред. Не бывает хорошего ИИ, есть только хорошие и плохие люди», — приводится его позиция.

В качестве ИИ использовался Megatron Transformer от Nvidia, который был обучен на большом количестве цифрового текста. Его ответы, конечно, зависят от контекста. Команда затем попросила ИИ высказать и противоположную изначальной точку зрения. Так программа «заняла» позицию против ИИ.

Как отмечают журналисты, то, что Megatron Transformer может высказывать мнения по обе стороны этических дебатов, просто подтверждает более общую идею: искусственный интеллект может как следовать нормам человеческой морали, так и не следовать им в зависимости от контекста.