31 марта Комитет МТПП по промышленной и инновационной политике совместно с Национальным центром цифровой экономики МГУ провел вебинар на тему: «Этика использования больших данных».
«Вопрос этики использования больших данных, персональной информации очень животрепещущий по своей сути. Мы затронули его на предыдущем заседании Комитета, он вызвал широкий отклик и большой интерес – и мы решили провести отдельное заседание на эту тему», – отметил в своем вступительном слове председатель Комитета Михаил Коган.
Вице-президент МТПП Сурен Варданян поблагодарил комитет «за постоянную генерацию актуальных тематик, которые не всегда бывают видны с первого взгляда». «Вопрос, как будут хранится данные оцифровки, как это будет законодательно закреплено, остается одним из ключевых, – отметил он. – Обсуждаемая сегодня тема болезненна для многих, особенно для молодого поколения, которое все больше и больше задается вопросом размера личного пространства, не подлежащего всеобщему разглашению».
Управляющий директор Центра регулирования AI ПАО Сбербанк Андрей Незнамов сделал доклад на тему: «Нормативное правовое регулирование и этика использования технологий работы с большими данными». По его словам, термин «искусственный интеллект» (ИИ) сегодня не имеет однозначного определения. Он объяснил, почему Сбер сегодня занимается проблемой ИИ, рассказал, какие законодательные акты по регулированию ИИ приняты в Российской Федерации, какие разрабатываются международными организациями, а также о европейском опыте влияния регулирования данных на развитие новых технологий. Докладчик детально проанализировал, в каких именно вопросах регулирования ИИ Россия отстает от ведущих в этом плане стран, и сделал заключительные выводы. Так, в частности, важно развить регулирование для обезличивания и анонимизации персональных данных, а также облачной обработки данных; развить законодательство для беспилотных автомобилей и в сфере здравоохранения; синхронизировать законодательные инициативы с отраслевым сообществом и т. д.
Вице-президент в области ИИ и математического моделирования Сколковского института науки и технологий (Сколтех) Максим Федоров рассказал о российском опыте формирования этических принципов использования технологий искусственного интеллекта при оперировании большими данными. Он отметил, что рынок больших данных появился около 10 лет назад, обрисовал ведущие тенденции в развитии ИИ и глобальные аспекты сведения к минимуму рисков использования систем ИИ. «Необходимо закладывать базы и правила для будущего, то есть играть на опережение», – уверен он. По его словам, задача технических экспертов – сделать технологии максимально прозрачными, поскольку некачественный набор исходных данных может вызвать проблемы. Докладчик обрисовал направления полярных дискуссий по вопросам регулирования ИИ в ведущих международных организациях – ЮНЕСКО, ОЭСР, Совете Европы, Международной организации по стандартизации и т.д. «С одной стороны, есть понимание, что нужно мониторить и оценивать риски, – отметил докладчик. – Но непонятно, кто будет “контролировать контролеров” и каковы границы киберпространств». ЮНЕСКО, по его словам, активно обсуждает вопросы международного цифрового сотрудничества, порой политизируя их в пользу технологически развитых стран и крупного IT-бизнеса. России необходимо выработать свою консолидированную позицию «с учетом интересов бизнеса, причем не только крупного, но и малого и среднего», считает он.
Директор АНО «Информационная культура» Иван Бегтин сосредоточил свое выступление на этических аспектах использования открытых данных. «Технологические компании правят миром», – констатировал он. По его словам, с 2017 г. компании технологического сектора являются мировыми лидерами по капитализации. Их доходы за 15 лет выросли в 20 раз и продолжают стремительно расти. Сегодняшняя основа этого роста во многом – неконтролируемый сбор данных о потребителях в таких областях как электронная торговля, электронные услуги, цифровые медиа, подключенные автомобили и т.д. – сегодня можно говорить о целой экосистеме слежки за потребителями. Многие из этих данных используются потом для благих, казалось бы, целей – например, расследования преступлений. И все же, отмечает докладчик, озвученные тенденции ведут к росту «информационного неравенства», нарушают приватность, рождают новые формы дискриминации и, в конечном счете, способны привести к новым видам преступлений. Докладчик привел примеры «дискриминирующих алгоритмов» и нарушения прав граждан в разных странах, в том числе и в России.
Мероприятие было продолжено панельной дискуссией, в которой приняли участие директор центра цифрового развития Агентства стратегических инициатив Вера Адаева, консультант Глобальной практики по цифровому развитию Всемирного банка Ярослав Еферин, руководитель департамента интеллектуальных технологий Национального центра цифровой экономики МГУ Александр Райков. Участники отвечали на вопросы: насколько высока вероятность соблюдения этических принципов в случае, если их удастся выработать? Возможно ли внедрить эти принципы в нормативную базу либо формализовать другим способом?
В заключение вебинара председатель совета директоров Института развития информационного общества, руководитель подкомитета ПК02 «Данные» Технического комитета ТК 164 «Искусственный интеллект» Юрий Хохлов отметил, что «в гибридной ситуации придется жить долго», но часть этических принципов необходимо зафиксировать в алгоритмах, чтобы не оставлять людей в нерешительности в многочисленных ситуациях выбора.
«Дискуссия была очень интересной, и мы готовы продолжить эту тему, – отметил Михаил Коган. – В проблему этики искусственного интеллекта необходимо вовлекать массы».
Мероприятие проведено при поддержке Правительства Москвы и Департамента экономической политики и развития города Москвы
