Этика искусственного интеллекта: главные вопросы без философии

Кратко. Этика искусственного интеллекта отвечает на простые вопросы: можно ли загружать чужое лицо, кто автор результата, откуда у модели предвзятость, должен ли человек знать, что с ним говорит ИИ, и кто отвечает за ошибку. В России есть добровольный кодекс этики в сфере ИИ 2021 года. Закона он не заменяет.

Этика искусственного интеллекта: о чём вообще речь

Скажи «этика ИИ», и половина собеседников вспомнит восстание машин из кино. Зря. Реальные вопросы гораздо ближе: друг выложил в чат смешную картинку с твоим лицом, банк отказал в кредите, и никто не может объяснить почему, бот поддержки полчаса делал вид, что он живой оператор.

Этика использования искусственного интеллекта это правила поведения для тех, кто создаёт и применяет такие программы. Законы закрывают часть этих вопросов, остальное пока держится на договорённостях и здравом смысле. Многие из этих проблем растут из того, как модели учатся: на чужих текстах, фото и решениях, со всеми их перекосами.

Ниже пять вопросов, которые касаются каждого, у кого в телефоне есть хотя бы один чат-бот.

Вопрос первый: чьё лицо можно загружать

Своё можно. Чужое только с согласия человека, и это вопрос не только этики. Гражданский кодекс в статье 152.1 разрешает обнародовать и использовать изображение гражданина только с его согласия, за отдельными исключениями.

Представь: ты загрузил в генератор фото бывшего коллеги и сделал ему портрет в костюме клоуна для общего чата. Тебе смешно, ему нет, а картинку уже переслали дальше. Даже если никто не пойдёт в суд, ты сделал с чужим лицом то, чего человек не разрешал.

С детьми, родителями и друзьями правило то же: спроси. Разница между честным AI-портретом и дипфейком проходит ровно по согласию и по тому, кого картинка выдаёт за участника событий. Подробно про эту границу написано в статье AI-фото и дипфейк.

Вопрос второй: кто автор того, что сделала нейросеть

Если нейросеть нарисовала картинку по твоему описанию, автором по-человечески кажешься ты. Юридически вопрос сложнее, и ответ зависит от того, сколько в результате твоего творческого вклада. Разбор с нормами есть в статье про авторские права на AI-фото.

Этическая сторона проще. Не выдавай результат нейросети за работу, которую сделал руками, там, где это важно: в портфолио иллюстратора, в конкурсе фотографий, в дипломе. И не проси модель рисовать «в стиле» конкретного живого художника, чтобы потом продавать это как его работу.

Скажем, ты заказал логотип у дизайнера, а он сдал картинку из генератора за полную цену и под видом ручной работы. Логотип может быть хорошим, но осадок останется, потому что тебе продали не то, о чём договаривались.

Вопрос третий: откуда у модели предвзятость

Модель повторяет то, что видела в данных. Если в примерах перекос, он переезжает в ответы, и программа может систематически занижать оценку людям определённого возраста, пола или происхождения, никого об этом не спрашивая.

Российский кодекс в пункте о недискриминации прямо требует от разработчиков проверять, что алгоритмы и наборы данных не ведут к дискриминации по признакам расы, национальности, пола, политических взглядов, религии, возраста, социального и экономического статуса.

Бытовой пример. Допустим, программу учили одобрять кредиты по прошлым решениям банка, а жителям одного района там исторически отказывали чаще. Программа выучит и это: человек из того района с хорошей зарплатой получит отказ, и никто не сможет внятно объяснить почему. Злого умысла нет, но результат несправедливый. На AI-портретах перекос тоже виден: попроси нарисовать «успешного человека», и посмотри, кого модель нарисует по умолчанию.

Вопрос четвёртый: должен ли ты знать, что говоришь с ИИ

По кодексу этики разработчикам рекомендуется честно сообщать людям, что они общаются с ИИ, когда это касается прав человека и важных сфер его жизни, и давать возможность прекратить такое общение. Это рекомендация, а не обязанность по закону.

Представь: ты полчаса объясняешь «оператору» банка, что тебе заблокировали карту за границей, а потом понимаешь, что всё это время писал боту, который не может ничего разблокировать. Потерянные полчаса это и есть цена непрозрачности.

С картинками вопрос прозрачности превращается в вопрос маркировки. Что по ней требует закон и что с твоими AI-фото, разобрано в статье про маркировку ИИ-контента.

Вопрос пятый: кто отвечает за ошибку

Нейросеть не может отвечать ни за что: у неё нет ни имущества, ни совести. Спрос идёт с людей, которые её сделали, внедрили и применили. Кодекс этики формулирует это прямо: ответственность за последствия применения систем ИИ всегда несёт человек, физическое или юридическое лицо.

Для тебя это значит простую вещь. Если ты отправил клиенту письмо, которое написал бот, и в нём ошибка в цене, отвечаешь ты. Фраза «это нейросеть так написала» работает как объяснение, но не как оправдание.

Есть и вторая сторона ответственности: не перекладывать на ИИ решения, которые должен принимать человек. Кодекс говорит об этом через надзор: за системами ИИ должен присматривать человек, а социально и юридически значимые решения он должен иметь возможность отменить. В быту это выглядит так: бот может подобрать три варианта ответа недовольному клиенту, но какой отправить и отправлять ли вообще, решаешь ты.

Допустим, ты руководишь небольшой командой и попросил нейросеть ранжировать сотрудников по итогам квартала. Таблица получится быстро и выглядеть будет убедительно. Но если по этой таблице кого-то лишат премии, объяснять решение придётся тебе, а не модели, и «так посчитала программа» здесь не сработает.

Кодекс этики в сфере искусственного интеллекта: что в нём на самом деле

Кодекс этики в сфере искусственного интеллекта приняли 26 октября 2021 года, текст лежит на сайте кодекса. Документ готовил Альянс в сфере ИИ, куда входят крупные технологические компании, при участии Аналитического центра при Правительстве и Минэкономразвития. Присоединение добровольное, а сам кодекс рассчитан на гражданские, не военные системы.

Принципы этики искусственного интеллекта в кодексе собраны в шесть групп:

1. Главный приоритет это защита интересов и прав людей: человеко-ориентированный подход, уважение автономии и свободы воли, соблюдение закона, недискриминация, оценка рисков.
2. Нужно осознавать ответственность при создании и использовании ИИ: риск-ориентированный подход, предосторожность, непричинение вреда, идентификация ИИ в общении с человеком, безопасность данных.
3. Ответственность за последствия применения ИИ всегда несёт человек.
4. Технологии ИИ применяют по назначению и там, где они приносят пользу людям.
5. Интересы развития технологий ставятся выше интересов конкуренции.
6. Важна прозрачность и правдивость в рассказе о возможностях и рисках ИИ.

Главное, что стоит помнить: кодекс не закон. Он не создаёт тебе прав, за его нарушение нет штрафа, а следуют ему те, кто присоединился. Закон об ИИ в России тоже есть, и в нём свои принципы, об этом в статье про закон об искусственном интеллекте.

За пределами России похожую роль играет рекомендация ЮНЕСКО об этических аспектах ИИ, её приняли государства-члены организации в ноябре 2021 года.

Этика ИИ на практике: короткий чек-лист

Этика превращается в привычки, если свести её к нескольким вопросам перед действием:

• Чьё лицо, голос или текст я загружаю, и разрешил ли он?
• Не выдаю ли я результат нейросети за чужую или ручную работу там, где это важно?
• Понимает ли зритель или собеседник, что тут участвовал ИИ, если от этого зависит его решение?
• Проверил ли я факты и цифры, прежде чем отправить текст от своего имени?
• Кому уходят данные, которые я отдаю сервису?

Последний вопрос касается и нас. В a-dam.photo мы делаем портреты одного мужчины только по его собственным селфи: фото хранятся в Yandex Object Storage и передаются AI-сервисам kie.ai и fal.ai под конкретный заказ, для общих моделей они не используются.

Частые вопросы