Пишет Алексей Иванов: Московский экспериментальный полигон

На портале Сергея Михеева и Игоря Рябова "Октагон" вышел примечательный текст "Контролёры похорошевшей Москвы".

***

"В конце апреля был принят федеральный закон, официальное название которого занимает шесть строк, поэтому его сразу стали называть законом «Об искусственном интеллекте (ИИ) в Москве». Согласно ему, в столице специальный режим начнёт действовать 1 июля 2020 года и продлится пять лет.

Представители IT-сообщества постоянно сетуют на аппаратную и программную зависимость от США, которая предопределяет возможность утечек данных и манипулирования российскими электронными системами вплоть до их полного отключения с помощью программных «жучков» и технических «закладок».

Другая помеха развитию цифровых технологий – отсутствие нормативно-правовой базы. Принципиальные соображения о том, чем следует руководствоваться при её создании, сформулировали на прошлогоднем Петербургском международном экономическом форуме заместитель председателя правления Сбербанка Станислав Кузнецов и председатель правления аналитического центра «Форум» Александр Волошин: нормативно-правовая база должна следовать за технологическими решениями и делать это быстро.

Чтобы добиться этого, в стране нужно создавать «цифровые песочницы» – полигоны для обкатки новейших технологий и выработки законодательных норм их использования.

Поначалу казалось, что спецрежим для разработки и внедрения технологий искусственного интеллекта нужен как раз для работы такой «песочницы».

Текст закона «Об искусственном интеллекте в Москве» похож на проект заявки на получение гранта: в нём описаны цели и задачи эксперимента, ответственный исполнитель, правила привлечения других участников и ожидаемый результат. Обозначено обязательство действовать в соответствии с законами РФ и не ущемлять конституционные права и свободы граждан.

Закон носит рамочный характер: процедуры и другие детали не уточняются, сформулированы только общие подходы к их определению. Правовая часть почти полностью сосредоточена в статье 4, декларирующей полномочия мэрии Москвы и принципы работы с персональными данными.

Полномочия мэрии достаточно обширны: она принимает нормативные правовые акты, определяет «условия и (или) порядок разработки, создания, внедрения ˂…˃ технологий ИИ», «случаи и порядок использования результатов применения ИИ», случаи его обязательного применения, порядок и случаи передачи собственниками средств и систем фото- и видеонаблюдения и так далее.

Здесь стоит обратить внимание на «обязательное применение ИИ», а также на то, что вместо ожидаемого «следования законотворчества за технологическими решениями» налицо диктат исполнительного органа столичной власти.

О процедуре законотворчества не сказано ничего: нет ни упоминаний о консультациях с разработчиками ИИ, ни указаний на невозможность подобного сотрудничества.

Федеральным органам власти – правительству и профильному министерству – закон отводит роль «внешней ширмы»: с ними необходимо согласовывать некоторые организационные и процедурные вопросы, и им по итогам эксперимента нужно передать рекомендации по изменению законодательства РФ.

Одновременно московская мэрия наделена полномочиями по управлению всем процессом обработки, передачи другим участникам эксперимента и использования (sic!) «персональных данных, полученных путём обезличивания».

Судя по имеющимся комментариям, главными участниками московского эксперимента должны стать успешно решающий транспортные задачи «Яндекс» и готовящийся к запуску системы визуального распознавания клиентов Сбербанк.

В законе несколько раз фигурирует ещё более затейливая формулировка: «персональные данные, полученные путём обезличивания персональных данных», что является совсем уже диким, издевательским оксюмороном. Появление его, видимо, объясняется тем, что авторы закона не в курсе, что для любого из алгоритмов обезличивания данных существует «отмычка», позволяющая запустить процесс в обратную сторону и превратить обезличенные данные в персональные. Есть даже специальный термин «деобезличивание». Цена вопроса – время и квалификация программистов.

Чтобы снять сомнения в законности обработки «персональных данных, полученных путём обезличивания», в закон «О персональных данных», запрещающий подобные манипуляции без согласия граждан, внесены две поправки, разрешающие такую обработку «в целях повышения эффективности государственного или муниципального управления, а также в иных целях», предусмотренных тем же законом «Об искусственном интеллекте в Москве».

Казалось бы, налицо угроза нарушения прав граждан, но ни правозащитники, ни московские СМИ не обратили на это никакого внимания, видимо, потому что все они являются фанатами цифровизации или фанатами чего-то или кого-то ещё.

По новому закону обработке будут подлежать и «персональные данные, касающиеся состояния здоровья, полученные в результате обезличивания персональных данных». Как сопрягать эту новацию с понятием врачебной тайны, непонятно, да и не стоит: в Москве уже создаётся реестр граждан, переболевших коронавирусом, а там, глядишь, дело дойдёт и до реестров по другим болезням.

Чего не сделаешь ради развития искусственного интеллекта, который упоминается в семи статьях закона целых 22 раза. При этом создаётся впечатление, что авторы этих громоздких формулировок не вполне понимают, как устроена и работает эта самообучающаяся система, и оттого переоценивают её возможности.

Впрочем, все эти недоумения лишаются смысла после знакомства с презентацией проекта «Умный город – 2030», давно размещённой на официальном портале мэра Москвы. Там много интересного: «предсказание ˂…˃ поведения отдельных лиц», «автоматизация слежки», «обнаружение ˂…˃ нежелательных лиц» и так далее.

В разделе «Человеческий и социальный капитал» проекта «Умный город – 2030» сказано, что «полной первичной проверкой всего организма пациента будет заниматься ИИ без привлечения медицинских работников».

А «для лечения когнитивных (умственных, мыслительных. – τ.) и других расстройств будут применяться нанороботы − устройства размером с клетку крови, функционирующие внутри тела человека».

В свете столь головокружительных перспектив возникают два не связанных между собой вопроса: за что на самом деле травили Михалкова, если о технологическом внедрении в человеческий организм написано на портале московского мэра, и кто разработал или разрабатывает нанороботов, с помощью которых собираются лечить когнитивные расстройства? Если Чубайс, то не стоит и пытаться.

На сегодня известно, что создавать наночастицы, которые можно встроить в мозг, чтобы лечить его болезни, умеет профессор Гарвардского университета Чарльз Либер, который помимо прочего занимался ещё и разработками нанороботов вирусного типа, способных управлять клетками и обходить защитную реакцию организма.

22 января 2020 года Либер был арестован по обвинению в преступных контактах с властями Китая. Он подозревается в передаче Китаю биологического оружия, в том числе вируса COVID-19, с распространением которого с таким энтузиазмом борется мэр Москвы.

В итоге круг замкнулся: электронные пропуска, цифровизация, вторжение в частную жизнь, нанороботы – это единый необратимый процесс, в ходе которого граждане сначала лишаются прав, затем субъектности, а потом превращаются в объект манипуляций маньяков от науки. О том, как всё это отразится на карьере московского мэра, можно только гадать"