Искусственный интеллект ЮНЕСКО 2021г., это рекомендация об этических аспектах искусственного интеллекта.
- 16 ноября 2021 года в Париже в ходе 41-й сессии Генеральной конференции ЮНЕСКО была утверждена Рекомендация об этических аспектах искусственного интеллекта.
- Россия с самого начала активно подключилась к разработке данного документа и внесла значимый экспертный вклад в его содержание.
Об этических аспектах искусственного интеллекта ЮНЕСКО 2021г.
- Данная Рекомендация призвана заложить универсальные основы этичного использования систем с искусственным интеллектом на благо каждого индивида и общества в целом, в интересах гармоничного развития всего человечества. В ней нашли отражение принципы, отвечающие российским подходам в этой сфере: защита прав и свобод человека, безопасность применения самообучающихся алгоритмов, необходимая прозрачность их функционирования.
- Считаем особенно важным, что эта рекомендация может применяться на практике гибко, с учетом специфики реалий государств, достигнутого ими уровня технологического развития. Это позволит адаптировать реализацию ее положений под уже созданные в этой сфере национальные механизмы, такие как, например, Кодекс этики в сфере искусственного интеллекта, недавно подписанный крупнейшими российскими компаниями-разработчиками искусственного интеллекта.
- Рассчитываем на плотное сотрудничество со всеми заинтересованными государствами и секретариатом ЮНЕСКО в осуществлении Рекомендации в ее различных аспектах. – Брифинг официального представителя МИД России М.В.Захаровой, Москва, 17 ноября 2021 года. Источник: mid.ru
Искусственный интеллект ЮНЕСКО 2021г. Рекомендация об этических аспектах искусственного интеллекта
- Что такое искусственный интеллект?
Этичное применение
- Под этичным применением ИИ в Рекомендации понимается систематическое нормативное осмысление этических аспектов ИИ на основе эволюционирующей комплексной, всеобъемлющей и многокультурной системы взаимосвязанных ценностных установок, принципов и процедур, способное ориентировать общества в вопросах ответственного учёта известных и неизвестных последствий применения ИИ-технологий для людей, сообществ, окружающей природной среды и экосистем, а также служить основой для принятия решений, касающихся применения или отказа от применения технологий на основе ИИ.
- Этические принципы выступают в качестве гибкой основы для нормативной оценки, а также методического руководства в вопросах применения технологий на основе ИИ, «рассматривая человеческое достоинство, благополучие человека и недопущение нанесения вреда как целевой ориентир и уходя корнями в этику науки и технологии».
Определение – искусственный интеллект (ИИ)
- Рекомендация рассматривает ИИ как технологические системы, способные обрабатывать данные и информацию способом, напоминающим разумное поведение и включающим, как правило, такие аспекты, как рассуждение, обучение, распознание, прогнозирование, планирование и контроль.
В системах на основе ИИ могут использоваться различные методы, в частности:
- самообучение машины, в том числе глубокое обучение и обучение с подкреплением;
- автоматизированное рассуждение, в том числе планирование, диспетчеризация, представление знаний и формирование рассуждений, поиск и оптимизация;
- системы на основе ИИ могут использоваться в киберфизических системах, включая системы контроля оборудования через Интернет, робототехническое оборудование, социальную робототехнику и системы человеко-машинного интерфейса, объединяющие в себе функции контроля, распознания, обработки данных, собранных датчиками, а также работу исполнительных элементов в среде функционирования ИИ-систем.
Жизненный цикл ИИ
- В документе указывается, что этическая составляющая характерна для всех этапов жизненного цикла искусственной интеллектуальной системы. Жизненный цикл понимается как вся совокупность этапов, начиная с этапов исследования, проектирования и создания и заканчивая этапами развертывания и использования, к которому относятся техническое обслуживание, эксплуатация, сбыт, финансирование, мониторинг и оценка эффективности, контроль работоспособности, вывод из эксплуатации, демонтаж и утилизация.
- При этом под субъектами связанной с ИИ деятельности могут пониматься любые заинтересованные стороны, вовлеченные, по меньшей мере, в один их этапов жизненного цикла системы на основе ИИ, – как юридические, так и физические лица, в частности, исследователи, программисты, инженеры, специалисты по обработке данных, конечные пользователи, предприятия частного сектора, университеты, частные и государственные учреждения и т.д.
Ценностные установки ИИ
- Как сказано в Рекомендации, ценностные установки и принципы деятельности должны, прежде всего, соблюдаться всеми заинтересованными сторонами на протяжении жизненного цикла ИИ-системы и, по мере необходимости и целесообразности, поощряться путем внесения изменений в действующее законодательство и новые законы, нормативные положения и руководящие принципы предпринимательской деятельности. Принимаемые меры должны соответствовать положениям международного права, в том числе уставу ООН, включая обязательства государств-членов в области прав человека.
Конкретно. К ценностным установкам и принципам деятельности отнесено следующее.
Уважение, защита и поощрение прав человека и основных свобод и человеческого достоинства.
- Ни один из этапов жизненного цикла искусственной интеллектуальной системы не должен быть связан с ущербом или зависимостью физического, экономического, социального, политического, культурного или интеллектуального характера для человека или для человеческого сообщества.
- На протяжении жизненного цикла ИИ-систем необходимо заботиться о повышении качества жизни людей; при этом любой человек или группа лиц вправе самостоятельно трактовать понятие «качество жизни» в той мере, в какой это не ведёт к нарушению или попранию прав человека и основных свобод и не умаляет человеческого достоинства с точки зрения существующего определения.
Благополучие окружающей среды и экосистем.
- Все вовлечённые в жизненный цикл ИИ-систем заинтересованные стороны должны соблюдать положения соответствующих международных и национальных норм, стандартов и правил, включая меры предосторожности, предусмотренные для защиты и восстановления состояния окружающей среды и экосистем, а также обеспечения устойчивого развития.
- Они должны стремиться к тому, чтобы снизить оказываемое ИИ-системами на экологию воздействие, в том числе их углеродный след, с тем чтобы минимизировать масштабы изменения климата и влияние факторов экологического риска, а также препятствовать использованию экологически опасных моделей освоения, эксплуатации и переработки природных ресурсов, ведущих к ухудшению состояния окружающей среды и экосистем.
Обеспечение разнообразия и инклюзивности
- Не должна ограничиваться возможность выбора человеком предпочтительного для него образа жизни, убеждений, взглядов, способов самовыражения или жизненного пути, в том числе возможность факультативного использования ИИ-систем, а также участия в определении их параметров.
Жизнь в мирных, справедливых и взаимосвязанных обществах
- Процессы в рамках жизненного цикла ИИ не должны вести к дискриминации и обезличиванию людей или ущемлять свободы и независимое принятие решений, а также подрывать безопасность людей и общин, порождать разногласия между отдельными людьми и группами лиц и настраивать их друг против друга или ставить под угрозу сосуществование человека с другими живыми существами и окружающей его природной средой.
Соразмерность и не причинение вреда
- При наличии потенциальной угрозы причинения вреда людям, правам человека и основным свободам, общинам и обществу в целом или окружающей природе и экосистемам следует предусмотреть соответствующие процедуры оценки рисков, а также принять меры для исключения вероятности причинения такого вреда.
Безопасность и защищённость
- В интересах обеспечения безопасности и защищённости людей, экологии и экосистем на всех этапах жизненного цикла ИИ-систем следует избегать непреднамеренного причинения вреда (риски для безопасности), а также уязвимости перед кибератаками (риски для защищённости), учитывать, предотвращать и ликвидировать эти риски.
- Безопасность и защищённость ИИ-систем могут быть повышены посредством разработки надёжных и защищённых от несанкционированного доступа к личной информации комплексных систем, которые обеспечат более эффективный характер обучения и сертификации моделей ИИ на основе качественных данных.
Справедливость и отказ от дискриминации
- Данное положение подразумевает инклюзивный подход к обеспечению распространения и всеобщего доступа к полученным благодаря ИИ благам с учётом специфических потребностей разных возрастных групп, культурных систем, языковых сообществ, инвалидов, женщин и девочек, малообеспеченных, социально незащищённых и уязвимых категорий населения, либо лиц, находящихся в незащищённом положении.
Устойчивость
- Оценка людских, социальных, культурных, экономических и экологических аспектов применения технологий на основе ИИ должна неизменно проводиться с должным учётом их влияния на устойчивость развития, под которым понимается набор постоянно меняющихся целей в различных областях деятельности, сформулированных на сегодняшний день в виде целей ООН в области устойчивого развития.
Право на неприкосновенность частной жизни и защита данных
- Неприкосновенность частной жизни в качестве права, имеющего важнейшее значение для обеспечения защиты человеческого достоинства, личной независимости и способности человека выступать субъектом действия, должна уважаться, защищаться и поощряться на всех этапах жизненного цикла ИИ-систем. Важно, чтобы сбор, использование, передача, архивирование и удаление данных, применяемых в искусственных интеллектуальных системах, осуществлялись в соответствии с международным правом и ценностными установками и принципами, изложенными в настоящей Рекомендации, при одновременном соблюдении соответствующих национальных, региональных и международных правовых норм.
- Соответствующие рамочные принципы защиты данных и механизмы управления ими должны разрабатываться на основе подхода с участием многих заинтересованных сторон на национальном уровне, защищаться судебными системами и обеспечиваться на всём протяжении жизненного цикла ИИ-систем. Рамочные принципы защиты данных и любые связанные с ними механизмы должны основываться на международных принципах защиты данных и стандартах, касающихся сбора, использования и раскрытия личных данных, а также реализации субъектами данных своих прав при обеспечении законной цели и надлежащей правовой основы для обработки персональных данных.
- ИИ-системы ещё на этапе концептуальной проработки требуют надлежащей оценки последствий на предмет соблюдения неприкосновенности частной жизни, в том числе социальных и этических аспектов их применения, а также инновационных подходов в отношении неприкосновенности частной жизни. Субъекты ИИ должны гарантировать свою подотчётность в рамках разработки и внедрения ИИ-систем, обеспечивая защиту личной информации на протяжении всего жизненного цикла таких систем.
Подконтрольность и подчиненность человеку
- Государствам-членам следует обеспечить во всех случаях возможность возложения этической и правовой ответственности в отношении любого из этапов жизненного цикла ИИ-системы, а также в случаях применения мер правовой защиты в отношении ИИ-систем, на конкретных физических или действующих юридических лиц. В связи с этим термин «подконтрольность» подразумевает не только контроль со стороны отдельного человека, но и, в необходимых случаях, инклюзивный контроль со стороны общества.
Прозрачность и объяснимость
- Прозрачность необходима для эффективного применения, соответствующего национального и международного законодательства, регулирующего вопросы ответственности. Также люди должны иметь возможность доступа к обоснованию затрагивающего их права и свободы решения и представлять заявления уполномоченным сотрудникам частных компаний или государственных учреждений, которые могут пересмотреть и изменить это решение.
Ответственность и подотчётность
- Для обеспечения подконтрольности ИИ-систем и их воздействия на всех этапах жизненного цикла необходимо разработать соответствующие механизмы контроля, оценки воздействия, аудита и проверки, включая защиту лиц, сообщающих о нарушениях.
Осведомленность и грамотность
- Изучение воздействия ИИ-систем должно включать просвещение в области прав человека и основных свобод, с их помощью и в их интересах.
- Это означает, что отношение к ИИ-системам и их понимание должны зависеть от того, каким образом они воздействуют на сферу прав человека и возможность реализации этих прав, а также на окружающую среду и экосистемы.
Многостороннее и адаптивное управление и взаимодействие
- Использование данных должно осуществляться на основе международного права и уважения национального суверенитета.
- Это означает, что государства, руководствуясь нормами международного права, определяют порядок обращения с данными, генерируемыми на их территории или передаваемыми через их территорию, и принимают меры по эффективному правовому регулированию их использования, включая защиту данных, на основе уважения права на неприкосновенность частной жизни в соответствии с нормами международного права и другими нормами, и стандартами в области прав человека.
Источник: ru.unesco.org – искусственный интеллект
Искусственный интеллект – дополнительные документы:
- О развитии искусственного интеллекта в России – pdf
- Кодекс этики в сфере искусственного интеллекта pdf – октябрь 2021 год