Развитие искусственного интеллекта ставит под вопрос традиционные представления об ответственности и субъектности. Исследователи и практики на круглом столе в Вышке обсудили этические риски, механизмы регулирования и роль компаний в формировании безопасной цифровой среды. Особое внимание было уделено комплаенсу и архитектуре доверия в системах ИИ.

Центр этики и онтологии роботов Института робототехнических систем НИУ ВШЭ совместно с УрФУ им. первого Президента России Б. Н. Ельцина и Уральским отделением НСМИИ и КИ РАН организовал межрегиональный круглый стол «Ответственность, риски, регуляция: этика в сфере ИИ и робототехники» в рамках Всероссийской конференции «Искусственный интеллект и цифровая реальность». На мероприятии были представлены 18 докладов, подготовленных исследователями из девяти университетов и научных центров России, экспертами из числа индустриальных партнеров, активно применяющих ИИ в повседневной работе, а также представителями сферы образования.

Открывая круглый стол, его модератор, директор Центра Анастасия Углева подчеркнула важность своевременного осмысления и этического освоения современных технологий. Сомодератор, доцент кафедры онтологии и теории познания УрФУ Анна Шуталева отметила, что при быстром развитии технологий необходимо формировать безопасное и человекоориентированное будущее.

Возможна ли автономия алгоритмов

Научный сотрудник Лаборатории человекоцентричности и лидерских практик НИУ ВШЭ Елена Малахова представила доклад «Уровень субъектности как основание для этической оценки в сфере ИИ и робототехнических систем». Она выделила пять характеристик субъекта этических отношений: целеустремленность, способность к рефлексии, свободу как способность самостоятельно выбирать вид активности, способность к развитию и социальность. Подобные характеристики могут быть присущи трем типам субъектов: индивидууму, способному обладать всей полнотой субъектности; коллективному субъекту, вплоть до социума в целом, не всегда имеющему полноценную агентность; и, наконец, квазисубъектам — технологиям на основе ИИ, способным демонстрировать подобие субъектности.

Елена Малахова полагает, что в обозримой перспективе даже сильный ИИ не будет полноценным субъектом, поскольку неясно, на основе каких представлений о добродетелях и пороках и какими суждениями он сможет выносить этические оценки.

Технология может решать конкретную задачу, применяя утилитаристский подход. Она может влиять на межчеловеческую коммуникацию и тем самым воздействовать на социокультурные трактовки базовых этических принципов. ИИ может использовать утилитаристские подходы: он способен оценивать решения как правильные, исходя из степени приближения к поставленной задаче, и, следовательно, может «хорошо» решить и бесчеловечную задачу.

При более активном участии человека в обучении ИИ и более последовательной регуляции (в том числе законодательной) для него может быть частично доступен вариант квазисубъектности.

Докладчик пояснила, что ей знаком подход, разделяющий субъектность и агентность и наделяющий последним свойством ИИ, однако она предпочитает термин «квазисубъектность», поскольку существующие цифровые двойники известных людей имитируют их поведение, причем при общении с ними человек не сразу может распознать искусственность собеседника.

Анастасия Углева отметила, что этический дискурс сложно привести к законодательным решениям, и обратила внимание на то, что возможное общение двойников исторических личностей с пользователями может привести к искажению их образов из-за ошибок обучения.

Этика ИИ в компаниях: принципы и практики

Директор департамента философии УрФУ им. Б. Н. Ельцина Ирина Симонова выступила с докладом «Этический комплаенс искусственного интеллекта». Она пояснила, что под этическим комплаенсом понимает формирование системы, дающей уверенность в том, что ИИ разрабатывается и применяется на уровне, установленном в компании, обществе и государстве в целом.

Этический комплаенс сейчас активно обсуждается, поскольку сами компании чаще стремятся быть или выглядеть более этичными: если они не обращают внимания на этику, возникают сомнения в их надежности как партнера и контрагента.

Одновременно стала актуальной тема этики ИИ. Если раньше разработчики пытались отмахнуться от нее, то теперь и они включились в дискуссию.

По словам докладчика, в крупных российских компаниях ситуация выглядит более простой. Подобная информация в основном открыта, и, как правило, в разделе о корпоративной этике есть пункт о принципах этичного ИИ. Однако остается неясным, как работают организационные механизмы, как подготовить гайд и дорожную карту действий по формированию этичного ИИ и кодекса его применения.

Принципы внедрения этичного искусственного интеллекта есть на сайте «Голос ИИ», но там нет материалов, помогающих компаниям наладить комплаенс в этой сфере.

Ирина Симонова пояснила, что для обеспечения этического комплаенса в ИИ необходимо интегрировать систему в стратегическое планирование и проработать нормативную базу. Если компания планирует создать альянс, формируется внутренний документ по этике в сфере ИИ как часть корпоративного кодекса этики, но на этом работа часто останавливается, а имеющиеся документы устаревают — то есть комплаенс не работает. Поэтому помимо документов и уточнения процедур важно развивать неформальную корпоративную культуру, создавая каркас, обеспечивающий соблюдение принципов этичной работы с ИИ и его компонентами.

Взаимодействие с компаниями показывает, что эти принципы зачастую реализуются в подразделениях, связанных с технологиями и работой с персоналом (кадровые службы и социальная ответственность). В итоге технический и «человеческий» комплаенс работают, не будучи связаны друг с другом, поэтому важно обеспечить единые принципы этики.

По мнению докладчика, перспективной видится ситуация, когда работы по созданию систем комплаенса выполняются мотивированными сотрудниками, работающими по единым принципам и на одном языке. Стандарты понятны, компании ориентируются на базовые принципы, обсуждаемые и на национальном уровне, но для эффективной работы комплаенса необходимо больше тонких настроек, резюмировала она.

Анастасия Углева обратила внимание на различия сфер деятельности многих компаний и особенности, возникающие вследствие многонациональности, поликонфессиональности и мультикультурности, порождающие отличия этических представлений и необходимость дополнительного согласования позиций. Эти особенности должны учитываться внутренними этическими комитетами; также не стоит недооценивать значение внешней независимой экспертизы, вводить которую целесообразно в том числе для поддержания деловой и социальной репутации компании.

Распределенная ответственность

Научный сотрудник Международной лаборатории прикладного сетевого анализа НИУ ВШЭ Анна Карташова представила доклад «От карты акторов к карте ответственности: практическое регулирование этики в сфере ИИ».

Она пояснила, что при определении ответственности за действия ИИ важно понимать, кто выдает агентские полномочия, как устроены запреты и подтверждения, как документируется память агента и как отзываются решения. При этом следует анализировать происхождение системы: какие данные использовались, кем поставлялись компоненты, кто имеет право на изменение настроек и где они фиксируются. Например, в случае утечки данных для обучения роботов-помощников по дому важно выяснить, кто является владельцем этих данных. Ответственность ИИ становится распределенной, подвижной и инфраструктурной, подчеркнула докладчик.

Поэтому необходимо перейти к акторам — конкретным организациям, создающим ландшафт регулирования ИИ. Этика применения ИИ постепенно смещается от принципов к архитектуре доверия, картографии моделей сотрудничества и информационных потоков. Причем обсуждение этой архитектуры означает обсуждение технических характеристик, а не эмоциональных вопросов — решается, кто является владельцем риска.

Пока неясно, кто говорит от лица пользователей, поскольку государство и компании формируют контур применения технологий: какие акторы создают риск и формируют правила, кто разрабатывает принципы аудита и процедуры проверки системы и правила возмещения вероятного вреда.

Важно сформировать сеть акторов, проводящих процедуры определения баланса пользы и возможных побочных эффектов применения новейших технологий. Например, экзоскелет улучшает способность двигаться травмированного или инвалидизированного человека, но иногда сам может создавать проблемы — например, когда не распознает подъем или спуск на дороге, что может привести к новым травмам. Важно определить, кто отвечает за ущерб, нанесенный техническим сбоем в работе технологии, кто несет риски, возможна ли долевая и распределенная ответственность или необходима иерархия ответственности.

Природа нейросетей

Доцент кафедры философии, культурологии и социологии Оренбургского государственного университета Мария Щеглова представила доклад «Возможна ли ответственность перед ИИ». Она отметила, что развитие экосистемы ИИ возможно на фундаменте сохранения человека, его способности контролировать себя, избегать зависимости от технологий и манипуляций с применением ИИ. На человека влияет другой человек — автор или разработчик технологии, и важно понимать уровень его субъектности во взаимоотношениях с ИИ.

Докладчик привела в пример взаимоотношения человека и природы. Длительный период природа рассматривалась как ресурс, и лишь в XX веке возникла экологическая этика, предполагающая ответственность перед природой и ее экосистемами. Например, лес не обладает субъектностью, но его загрязнение считается безответственным, а значит, объект ответственности необязательно должен иметь сознание. По мнению Марии Щегловой, того же принципа следует придерживаться в отношении экосистемы ИИ, включающей людей, алгоритмы, базы данных, обучающие корпуса и др.

Исследования нейросетей показывают, что поведение моделей существенно зависит от среды обучения. В частности, они могут воспроизводить стратегии обмана, манипуляции или сокрытия информации, если такое поведение оказывается выгодным. Также модели способны перенимать нежелательные паттерны поведения тех, кто их обучает. При этом модель не становится «злой» и не приобретает признаков аморальности, но демонстрирует отдельные поведенческие особенности.

Ответственность разработчиков ИИ может рассматриваться как обязанность перед информационной экосистемой, качеством цифровой среды и ее будущими пользователями. «Если цифровая среда становится инфраструктурой коллективного интеллекта, имеем ли мы право оставлять в ней токсичный след?», — подытожила Мария Щеглова.

ИИ в издательстве

Руководитель проекта «Элпаб.Образование» Мария Зельдина рассказала о работе с ИИ-контентом в современном издательском процессе. Она указала на большой разрыв между желаемой картиной эффективного использования генеративного ИИ при подготовке статей и реальной практикой, отчасти вызванный отсутствием единого понимания границы допустимого применения новых технологий и неопределенностью ответственности за неправомерное использование инструментов ИИ.

Политики журналов нередко неопределенны; кроме того, даже лучшие из них не всегда воспринимаются авторами и рецензентами как обязательные. Как следствие, редакции и издатели не всегда понимают, каким образом разрешать конфликты, связанные с неправомерным использованием ИИ, и каковы последствия для нарушителя.

Докладчик также обратила внимание на проблему доказательства применения ИИ, поскольку система «Антиплагиат» не дает полной гарантии определения сгенерированного текста.

Пока же участники системы подготовки и издания статей ожидают друг от друга формирования четких правил игры, разработки прозрачных политик использования ИИ и их внедрения, а также выработки регулятивных мер по предотвращению нарушений этики применения ИИ в научной и публикационной деятельности.

Анастасия Углева заметила, что первые системные шаги на этом пути уже сделаны. Так, при Комиссии по реализации кодекса этики в сфере ИИ была создана профильная рабочая группа, целью которой является выработка согласованного с представителями медиа, издательствами и редакциями журналов положения об этике применения технологий на основе ИИ без ущерба качеству и репутации как самих изданий, так и отдельных пользователей. Эти темы планируется также осветить на страницах второго издания «Белой книги этики в сфере ИИ», над которым идет активная работа.