Последние новости политики России,
Украины, Белоруссии и мира

Главная
В России В мире Украина Политика Аналитика Видео Война Карикатуры

Восстания машин не будет. Искусственный интеллект – это оружие в ментальной войне против России

В самом начале форума "Армия-2021" была поставлена важнейшая из проблем безопасности государства: Либо Россия создаст собственную концепцию развития интернета и искусственного интеллекта, либо мы потеряем управленческий контроль и проиграем страну в ходе ментальной войны.
Знаменитый и даже, наверное, великий русский писатель-фантаст Сергей Лукьяненко недавно поделился с читателями своими впечатлениями от нового романа американского фантаста Маргарет Уэлс. Речь идёт о серии романов в "киллерботе" - роботе, созданном для убийства и охраны особо важных персон, но осознавшем себя личностью и сбежавшем от хозяев. Возможно, именно с лёгкой руки Лукьяненко этот роман набирает в России популярность. Но гораздо важнее, что этот "киллербот" представляет собой что-то вроде квинтэссенции современных обывательских представлений об искусственном интеллекте: когда речь заходит об ИИ, обыватель немедленно представляет себе "восстание машин" в диапазоне от классического "Я, робот" Айзека Азимова до голливудского Терминатора и его противников. Обывателю немножко страшно, немножко интересно, иногда страшно интересно, однако обыватель помнит, что то, о чём он читает и чего побаивается, – это фантастика.
Между тем ИИ – это уже некоторое время не фантастика, даже "ближнего прицела", а совершено реальные разработки, которыми занимаются в ведущих в научном и техническом отношении странах мира, в том числе и в России. Результаты некоторых из этих разработок взаимодействуют с тем самым обывателем, который побаивается "восстания машин" каждый день. За несколько последних лет мы привыкли к "умным" вещам, которые даже разговаривают с нами на манер роботов из фантастических книг прошлого.
"Умными" теперь бывают, например, музыкальные колонки и пылесосы. Буквально каждый из нас носит в кармане "умное" устройство, заменившее обычный телефон. Это устройство (и не одно оно, просто оно всегда с нами) собирает о нас огромное количество разнообразной информации и делится этой информацией с другими устройствами. Незаметно для нас, безо всякого контроля с нашей стороны.
Параллельно мы взаимодействуем с искусственным интеллектом в интернете. ИИ предлагает нам информацию, которая, как он решает на основе анализа массивов относящихся к нашим данным, соответствует нашим потребностям. ИИ осуществляет цензуру, в соответствии со своей программой отсеивая информацию, которая нам, по его мнению, не нужна. ИИ беседует с нами – и "тест Тьюринга" можно считать устаревшим, потому что сплошь и рядом многие неглупые люди не могут отличить в социальных сетях "ботов" от живых собеседников.
Восстания машин нет и не предвидится, но происходящее сегодня уже очень опасно. Для отдельного человека, для государства и в конченом итоге для всего человечества.
Об этом говорили первоклассные специалисты на конференции "Гуманитарные и социокультурные аспекты применения искусственного интеллекта", которая открывала научную программу форума "Армия-2021".

Мы на войне, перед нами противник

Советник министра обороны и модератор конференции Андрей Ильницкий в своём выступлении заострил внимание на простом, казалось бы, факте: искусственный интеллект – это технология двойного назначения или попросту военная технология. И она широко применяется сегодня против России в ходе ментальной войны. Смысл действий противника в том, чтобы подменить с помощью информационного воздействия базовые ценности народа. Управляя новостными потоками, целые общества можно сподвигнуть к принятию решений, принципиально противоположных настоящим интересам и потребностям этих обществ. Эту опасность нельзя переоценить.
Между тем обращение с ИИ в самой России чревато многочисленными рисками. ИИ внедряют в систему управления с излишним энтузиазмом, как будто руководствуясь принципом "надо ввязаться в драку, а там посмотрим". Необходимо в ближайшее время формировать российскую философию и концепцию интернета и ИИ. Иначе мы упустим управленческий контроль и затем проиграем страну,
- полагает Ильницкий.
Что касается опасности имитации институтов, второй модератор дискуссии Наталья Касперская заметила: по некоторым данным, в Китае сегодня до 90% научных (!) статей пишутся ботами и являются, в некотором смысле, фейками. А государства и отдельные университеты всё ещё меряются рейтингами цитируемости своих учёных…

Риски, вызовы и угрозы

Сказать, что Россия отстает от Запада в деле развития ИИ, было бы неправильно. Совсем наоборот: сегодня русский язык, наряду с китайским и английским, является одним из самых распространённых в Мировой паутине, а наши достижения в ряде сфер опережают конкурентов. Однако мощные достижения не отменяют а, увы, усиливают риски внедрения ИИ в многочисленных формах во все сферы нашей жизни.
Первая группа рисков может считаться внутренней – её порождают в том числе российские разработки и их авторы. Впрочем, эти риски – одни и те же для всех развитых стран.
О них говорил Максим Фёдоров, вице-президент Сколковского института науки и технологий в области искусственного интеллекта и математического моделирования. По его мнению, нельзя забывать о том, что сегодня "порог входа в технологию" ИИ уже очень низкий – по факту технологии ИИ доступны даже школьникам, причём не только как пользователям, но и как разработчикам. Между тем бесконтрольное использование ИИ чревато возможностью использования этих технологий для нарушения прав человека.
С этой сентенцией согласится каждый, кто имел дело с утечкой важных для него данных в каком-нибудь странном направлении – например, к мошенникам. Тотальная возможность анализа больших данных равнозначна возможности тотальной слежки и потери права на частную жизнь, на личную тайну.
Одновременно мы видим, как нарастает другая опасность: общение с ИИ подменяет современному человеку традиционные социальные связи. Маскирует тотальное одиночество. А пока это происходит, человек из субъекта превращается в объект – в источник данных и денег для совершенно бездушных маркетологов. Бездушных потому, что они тоже уже не люди, а ИИ.
Вторая группа рисков проистекает из взаимодействия с нашими западными партнёрами. Они нам совсем не друзья – и, помимо прочего, стремятся навязать нам собственные законы.
Об этом на конференции говорил Алексей Сажин, первый секретарь постоянного представителя РФ при Совете Европы. Он отметил, что уже сегодня у ИИ могут появляться свойства, не заложенные разработчиком. ИИ может использоваться для дискриминации пользователей по различным критериям.
С этим легко согласится каждый, кто имел дело с западными социальными сетями, подконтрольными транснациональным корпорациям: по факту там уже введена цензура, направленная против традиционных ценностей и русских патриотов.
Между тем Запад разрабатывает собственную систему регулирования в области ИИ, которую будет навязывать России на государственном уровне. Противостоять этому вынуждена уже сегодня отечественная дипломатия.
Игорь Ашманов, член Совета по правам человека при Президенте России, был ещё более категоричен: нужно понимать, заявил он, что
мы с ними идём в разных направлениях. Они пытаются навязать нам чужие ценности.
То, что происходит сегодня, следовало бы охарактеризовать как "галопирующую цифровизацию". И улучшения, которые приносит эта цифровизация всего и вся, – кажущиеся.
Ковровую слежку за каждым человеком оправдывают безопасностью. Но как это выглядит на практике? Казанского стрелка, пока он шёл по улице с ружьём, видело и распознало множество камер, - говорит Ашманов. Кому это помогло? Между тем, пока мы рассуждаем об удобствах новых сервисов, тихой сапой возникает новая цифровая власть – и это уже не чиновники, это тихие, незаметные разработчики новых программ ИИ. Мы на пороге "власти цифровых клерков".
Лозунги "цифровой экономики" напоминают лозунги "перестройки" и "ускорения" конца 1980-х, замечает Ашманов. А на практике они ведут к возможности произвести государственный переворот под прикрытием "цифровизации". Одного этого риска достаточно, чтобы остановиться и подумать: нужна ли кампания по цифровизации и внедрению ИИ во всё и вся?

Что с того?

Заместитель руководителя аналитического центра при правительстве России Сергей Наквасин на конференции заявил, что уже в октябре под эгидой правительства будет проведён форум, на котором специалисты примут российский кодекс этики искусственного интеллекта. Наквасин подчеркнул, что это должна быть христианская этика – и это единственный вариант развития, при котором ИИ может быть полезным и безопасным.
Если разработчики ИИ и те, кто внедряют его в деятельность органов государственной власти, не станут руководствоваться этими принципами, все риски, о которых шла речь на конференции, из области рассуждений перейдут в реальность. Без христианской морали ИИ станет орудием разрушения государства, общества и самой России.

Подпишитесь на нас Вконтакте, Одноклассники





280

Похожие новости
18 сентября 2021, 00:10
18 сентября 2021, 00:10
18 сентября 2021, 06:35
18 сентября 2021, 00:10
18 сентября 2021, 15:45
18 сентября 2021, 02:00

Новости партнеров
 

Новости партнеров
Загрузка...

СМИ партнеров
 

Новости СМИ

Популярные новости
16 сентября 2021, 08:45
15 сентября 2021, 11:40
13 сентября 2021, 02:50
12 сентября 2021, 18:35
15 сентября 2021, 23:35
15 сентября 2021, 02:30
13 сентября 2021, 06:30