Кодекс для алгоритмов: в России выпущен первый учебник по искусственному интеллекту
В МИФИ выпустили учебник, посвященный этике искусственного интеллекта. В книге рассказывается о том, как учитывать культурные различия, предотвращать ошибки алгоритмов и превращать этические принципы в реальные правила для технологий.
Еще десять лет назад считалось, что сочинять стихи, музыку и писать код могут только люди. Но сегодня в нашу жизнь плотно вошло такое понятие, как искусственный интеллект. Он считает, пишет, составляет программы, помогает человеку в его каждодневных задачах и даже в творчестве. Человечество и глазом моргнуть не успело, как ИИ стал принимать участие в решениях, которые затрагивают самые разные сферы нашей жизни. Поэтому уверенности, что алгоритм хорошо работает, становится уже недостаточно. Сейчас особенно важно понимать, какие правила он использует и что происходит, если система сталкивается с ситуацией, для которой разработчики не предусмотрели однозначного ответа.
В Национальном исследовательском ядерном университете «МИФИ» вышел учебник «Этика искусственного интеллекта». Как сообщает сетевое СМИ «СНГ Сегодня» в нем рассматриваются эти вопросы сразу с двух сторон – философской и инженерной. Авторы книги – профессор кафедры философии, онтологии и теории познания НИЯУ МИФИ Екатерина Тихомирова и старший преподаватель кафедры кибернетики Роман Душкин.
От философии к коду
Разговор об этике ИИ легко свести к абстрактным рассуждениям о том, что такое добро и зло. Но при разработке реальной системы моральные принципы приходится переводить в конкретные правила, ограничения и процедуры. Именно здесь встречаются, казалось бы, две совершенно несовместимые науки – философия и программирование.
Авторы учебника разграничивают этику, мораль, нравственность и право. Если считать этикой только набор запретов, возникает риск свести разработку ИИ к простому правилу: разрешено все, что не запрещено законом. Однако для технологий этого недостаточно. Закон не может заранее описать каждую ситуацию, с которой столкнется сложная ИИ-система. Поэтому разработчикам приходится думать не только о том, что системе запрещено, но и о том, как она должна вести себя в неоднозначных ситуациях.
Связь культуры и ИИ
Еще одна проблема, которую разбирают авторы учебника, связана с культурой. Представления о справедливости, поведении и ответственности могут различаться в разных странах. Это обусловлено национальными и территориальными особенностями. Поэтому в учебнике рассматривается, как вопросы морали и культуры поведения при использовании ИИ преломляются в китайской, японской, российской и западной традициях.
Для тех, кто работает с ИИ, это имеет не только этическое, но и практическое значение. Система, рассчитанная на работу с пользователями из разных стран, сталкивается не только с разными языками, но и с разными социальными нормами. То, что в одной культуре воспринимается как нейтральное или допустимое, в другой может вызвать совершенно иную реакцию и оттолкнуть пользователя. Особенно это важно для моделей, которые общаются с людьми, создают тексты, изображения или используются в таких чувствительных сферах, как психология.
Кодекс чести для ИИ
В книге рассматриваются такие инструменты, как RLHF, Constitutional AI, red teaming и governance pipeline. За этими сложными терминами стоят конкретные задачи обучить модель следовать определенным предпочтениям человека, задать ей набор принципов поведения, специально искать уязвимости и нежелательные сценарии, а затем выстроить постоянный контроль за системой.
То есть заданный разработчиком кодекс поведения сам по себе не заставит модель соблюдать заявленные правила. Их необходимо встроить в процесс разработки, обучения, тестирования и эксплуатации модели.
Кому будет интересен учебник?
Новый учебник интересен широкому кругу специалистов. Это студенты и аспиранты ИТ-направлений, разработчики ИИ, правоведы, исследователи и специалисты, работающие на пересечении технологий и гуманитарных наук.
Для разработчика этические принципы помогут заранее понять, какие ограничения могут быть у продукта. Инженеру они позволят учитывать возможные сбои и способы неправильного использования системы. Юристу – увидеть, почему одних законов и правил может быть недостаточно для контроля сложных ИИ-систем, а исследователю – оценить то, к каким последствиям может привести использование ИИ.
Предисловие к учебнику написал академик РАН Сергей Глазьев, а послесловие – генеральный директор МНИИПУ Александр Агеев. Книга может стать основой для подготовки специалистов, чья задача сделать так, чтобы интеллектуальные системы были мощными, удобными, предсказуемыми и безопасными.
