Правительство Сербии официально приняло этические принципы для разработки, применения и использования искусственного интеллекта (ИИ), согласно опубликованному постановлению в официальном вестнике. Цель этих рекомендаций – создание превентивного механизма, который должен обеспечить стандарты безопасности и этики в системах, основанных на машинном обучении.
Для кого опубликованы этические рекомендации использования искусственного интеллекта в Сербии?
По рекомендации правительства, опубликованные этические принципы использования технологий ИИ могут применять следующие институты власти и организации:
- органы государственного управления;
- автономные провинции;
- муниципалитеты;
- город Белград;
- государственные компании;
- государственные учреждения и организации.
По заявлению правительства Сербии, в сфере безопасности и обороны страны нужно ограничить или даже исключить применение этих этических принципов.
Обеспечение этики и безопасности процесса разработки искусственного интеллекта:
- защиту личных данных граждан Сербии;
- борьбу с дискриминацией, если применяется машинное обучение;
- ответственное развитие искусственного интеллекта, согласно международным этическим принципам.
Сербия развивает государственный сектор и критическую инфраструктуру (с применением искусственного интеллекта) для улучшения жизни граждан.
Системы в области ИИ, подверженные высокому риску
Опубликованные этические принципы содержат определение систем в области AI, считающихся высокорисковыми.
«Система высокого риска – это система, имеющая тенденцию прямо или косвенно нарушать принципы и условия, установленные руководящими принципами».
Оценка высокорисковых систем с точки зрения их соответствия нормам законодательства и нормативных документов – важный элемент безопасности. Она может проводиться как при подготовке, так и на этапе эксплуатации для выявления и устранения возможных угроз и рисков.
Системы искусственного интеллекта могут относиться к высокорисковым системам в следующих областях:
- Идентификация физического лица по биометрическим характеристикам – дистанционная биометрическая идентификация личности онлайн.
- Управление и эксплуатация критической инфраструктуры – управление движением транспорта, работой и безопасностью электрораспределяющих систем, водо-, газо- и теплокоммуникаций.
- Обучение и образование – доступ абитуриентов и аспирантов в профессиональные учебные заведения, проверки и оценки их знаний (вступительные, промежуточные и выпускные экзамены).
- Здравоохранение – анализ данных о текущем здоровье пациента и его генетической предрасположенности.
- Уголовное преследование – оценка рисков совершения преступлений на основе анализа характеристик и предыдущего поведения подозреваемых лиц, а также использующиеся как полиграф или инструмент для определения эмоционального состояния человека.
- Государственные и социальные услуги – анализ соответствия претендентов на оказание таких услуг.
Также высокорисковыми считают системы искусственного интеллекта, применяемые в ряде общественных сфер – занятость населения, иммиграция, правосудие и обеспечение демократических процессов в Сербии.
Анализ и оценку влияния высокорисковых систем нужно проводить отдельно и более подробно, так как они применяются в критически важных сферах.
Сербия подойдет для развития частного бизнеса с дальнейшей экспансией на рынок Евросоюза.
Заключение
Правительство Сербии планирует использовать системы искусственного интеллекта для улучшения качества жизни и повышения производительности труда, но при этом обеспечивать участие человека в процессах с ИИ и избежать маргинализации. Для достижения этой цели необходимо учесть этические, юридические и социальные вопросы, а также обеспечить прозрачность процесса принятия решений и контроль за использованием данных.
