Власти разработали Кодекс этики (КЭ) для применения искусственного интеллекта в медицинской сфере. Документ охватывает всех участников процесса использования ИИ (СИИ) в России. Он включает в себя пользователей, разработчиков ИИ, представителей разработчика, поставщиков баз данных, создателей правил, требований и стандартов, а также других лиц, влияющих на функционирование ИИ.
Этические нормы
В кодексе отражены этические вопросы, которые возникают при работе с ИИ в здравоохранении. КЭ поможет решить эти проблемы. В частности, до сих пор не существует убедительных доказательств того, что решения, принятые на основе ИИ, интегрированные в деятельность медработников, эффективны и безопасны. Это связано с тем, что существует риск причинения вреда пациентам в результате возможных ошибок в обработке информации, например, программа может неправильно понять рекомендацию.
Риск усиливается из-за того, что ИИ требует постоянного обучения и внедрения новых данных. Недобросовестный разработчик может повлиять на полноту обучающих данных, что снижает качество обработки информации. Кроме того, трудно определить конкретного человека, ответственного за принятие окончательного решения. Ситуация становится более сложной, если система не зарегистрирована, но является медизделием, разработанным с использованием технологии ИИ.
Также несмотря на улучшение систем безопасности, существует угроза несанкционированного доступа к алгоритмам ИИ или персональным данным пациентов. При этом граждане и их законные представители претендуют на получение полной информации о целях, методах оказания медицинской помощи, связанных с ними рисках, возможных вариантах медицинского вмешательства и его последствиях.
Кодексом этики нужно пользоваться на каждом шаге жизненного цикла систем ИИ, включая планирование, проектирование, апробацию, экспертизу и эксплуатацию.
Базовые принципы кодекса
В медицинской сфере искусственный интеллект будет функционировать самостоятельно принимая решения и оказывая помощь пациентам. ИИ станет неотъемлемой частью нашей жизни, контролируя работу различных систем и обеспечивая их эффективность.
Особенно важно, чтобы ИИ был доступен для всех без исключения, вне зависимости от возраста, национальности и других индивидуальных особенностей. Контролировать деятельность системы будут научные организации, открывая новые возможности. Также с помощью систем учреждения смогут продемонстрировать свои достижения. Это укрепит доверие людей к новым технологиям и способствует их активному вовлечению в мир ИИ.
В России действуют специальные правила, направленные на проверку ИИ и защиту людей. Порядок обеспечивает безопасность и надежность работы системы, что делает ее неотъемлемой частью нашего будущего.