Понятие агентности пришло к нам из области социологии и философии. С точки зрения философии агентность (от англ. agency) — это способность человека совершать действия и осуществлять сознательный контроль над действиями. Другими словами, агентность — это то, что человек делает усилием воли, по собственному желанию и усмотрению.
В области протезирования понятие агентность относится к способности волевого управления протезом. Чувство агентности описывает ощущение, что движения и действия протеза выбираются и инициируются пользователем и находятся под его контролем. Понятие агентность употребляется в связке с таким понятием, как эмбодимент.
Эмбодимент (от англ. embodiment – воплощение, объединение, слияние), или натурализация протезов, является показателем пользовательского опыта в отношении протезов.
Исследователи рассматривают эмбодимент как комбинацию обладания (ownership), репрезентации тела (body representation) и агентности. О натурализации протезов и методах оценки различных её проявлений поговорим в следующей статье.
Интерес к понятиям эмбодимента и агентности возникает в связи с гипотезой о том, что повышение ощущения агентности может увеличить коэффициент удержания пользователей протезов. Чувство агентности возникает, когда согласованность между сенсорными предсказаниями и сенсорным опытом приводит к ощущению контроля над своими действиями и воздействием на окружающую среду.
Кибернетический подход нацелен на усиление ощущения контроля за счет замещения утраченных потоков информации между человеком и искусственной конечностью.
С одной стороны, делаются попытки решить эту задачу путем очувствления протезов, то есть путем реорганизации и замещения сенсорных путей.
С другой стороны, укрепление ощущения агентности, осуществляется за счет совершенствования систем управления, то есть путем замещения моторных путей.
В частности, для этого предлагается использовать алгоритмы машинного обучения (МО). Применение МО в протезировании нацелено, во-первых, на улучшение распознавания состояния системы (например, паттернов ЭМГ- или ОМГ-сигналов), на основе которого формируются сигналы для управления протезом, во-вторых, повышение естественности и удобства управления протезом для пользователя. Применение этих подходов сокращает “дистанцию” между пользователем и протезом и, соответственно, способствует формированию положительного пользовательского опыта.
Применение алгоритмов МО/ИИ подчеркивает уже существовавшие ранее вопросы разграничения ответственности за результат работы устройств, выполняющих роль посредника между пользователем и действиями, совершаемыми над окружением. Повышение агентности пользователя, то есть ощущения контроля над протезом, влечет за собой ответственность за действия, совершаемые этим протезом. В то же время, ответственность разработчиков состоит в применении алгоритмов, соответствующих требованиям к точности и надежности для конкретных областей приложения технологии и формировании требований к условиям эксплуатации устройств.
Правовой статус явления агентности в настоящее время не определен. Эта проблема включает в себя вопросы ответственности, защиты данных, регулирования автономии устройств и этики. Протезы с элементами ИИ поднимают новые юридические и этические вызовы, требующие дополнительных стандартов и правовых норм для обеспечения безопасности и защиты прав пользователей.
Юридическая практика по вопросам использования технологии ИИ ограничивается разрозненными нормативными документами и единичными прецедентами из судебной практики. Регуляторика в области систем, использующих ИИ, в РФ только начинает развиваться.
Так понятие «искусственный интеллект» было введено на уровне законодательства Указом Президента РФ от 10 октября 2019 года № 490 «О развитии искусственного интеллекта в Российской Федерации»
Федеральный закон от 31.07.2020 г. № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации» устанавливает возможность применения экспериментальных правовых режимов в сфере разработки, апробации и внедрения цифровых инноваций.
В настоящее время в соответствии с программой по приоритетному направлению «Искусственный интеллект» принята политика стандартизации, определяются перечень стандартов, требующих подготовки в данном направлении.
В соответствии с Приказом Минздрава России от 06.06.2012 N 4н "Об утверждении номенклатурной классификации медицинских изделий" программное обеспечение с применением технологий искусственного интеллекта, являющееся медицинским изделием, автоматически относится к 3 классу, то есть к медицинским изделиям с самой высокой степенью риска. К данному классу относятся и протезы с использованием систем машинного обучения и искусственного интеллекта.
Это значит, что бионические протезы с системой управления на основе МО или ИИ классифицируются как медизделия 3-го класса риска.
Таким образом, перед Моторикой как компанией-лидером индустрии протезирования, внедряющей инновационные технологии и технические средств реабилитации, встает вызов в виде правовых и регуляторных аспектов агентности и использования искусственного интеллекта в протезировании.