В марте 2020 года боевой робот впервые убил человека без приказа оператора, опираясь лишь на систему идентификации врага на основе нейросети. А медицинский стартап начал собирать фотографии кала у населения: по ним компьютер научится распознавать болезнь. Тем временем в Кузбассе дроны фотографируют всю территорию области, помогая собрать налоги. Эти на первый взгляд не связанные события – звенья одной цепи: все используют искусственный интеллект. Как он повлияет на жизнь каждого россиянина – в нашем материале.
ИИ — это не как в кино
Искусственный интеллект в фантастических книгах и фильмах — это компьютерная программа, которая осознала себя и в довесок частенько хочет уничтожить человечество. В жизни всё приземлённей: программа, способная анализировать данные, делать выводы и принимать решение на их основе — и есть искусственный интеллект. От обычной программы, которая работает по заданному алгоритму, ИИ отличает способность к самообучению. Распознавание отпечатка пальца — уже технология с ИИ, так что он давно прописался в каждом смартфоне.
То, что было сначала фантастикой, а потом технической новинкой где-то далеко, начинает проявляться в обыденной жизни: банкоматы выдают наличку по лицу, голосовые помощники оформляют кредиты, а камеры вовсю выписывают штрафы за непристёгнутый ремень. ИИ меняет всё, от медицины до войны, от банковского дела до промышленности. При этом угрозы, предсказанные в книжках, тоже как будто проявляются в реальности.
ИИ-секретарь и ИИ-водитель
«Судя по количеству событий, историкам будущего придётся не только изучать отдельно 2020 год, но и выбирать месяц, на котором специализироваться», — такой анекдот в числе тысяч других рассказывает Алиса, голосовой помощник с искусственным интеллектом от «Яндекса». До 2010 года голосовые помощники были просто набором правил применения заложенных слов. Но после подключения элементов ИИ и обучения на больших массивах данных они научились переводить иностранную речь, назначать встречи и сохранять контакты, служить навигатором, управлять отоплением, освещением и системой безопасности.
В 2021 году «МегаФон» создал голосового ассистента Еву, которая помогает абонентам не пропускать важные звонки и блокирует голосовой спам. Ева может принять входящий вызов, самостоятельно определить источник и цель звонка, поддержать разговор и отправить расшифровку пропущенного вызова абоненту в мессенджер.
Голосовые роботы в процессе работы обучаются с помощью нейросетей, чтобы в будущем добиться эффекта присутствия живого собеседника, они даже научились анализировать тональность разговора. Аналитические алгоритмы используются и для выявления потенциально мошеннических звонков. В прошлом году «Мегафон» разработала антифрод-систему для финансовых организаций, с помощью которой банки могут защищать клиентов от недобросовестных действий третьих лиц.
В кемеровском кардиоцентре сервис Voice to Med помогает врачам голосом заполнять данные медкарт, экономя до 40% времени. А ИИ, встроенный в томографы, определяет объём поражения лёгких. Кажется, недалёк тот день, когда от бородатых анекдотов ИИ перейдёт к тому, чтобы подстраивать пожары и автомобильные аварии.
Кстати, автомобили Tesla в режиме автопилота попадали в ДТП более двадцати раз. Правда, лишь в одном из них на водительском сидении не было человека. Известен случай, когда беспилотный Uber насмерть сбил велосипедистку, переходившую дорогу в неположенном месте. Правда, полицейские после расследования заключили, что обычный водитель в той ситуации тоже сбил бы её с вероятностью, близкой к ста процентам. Уже два года по Иннополису в Казани ходит беспилотное такси, тестировщик «Яндекса» в нём сидит на пассажирском сидении. Пассажиры отмечают, что когда руль крутится сам и рычаг КПП переключается тоже сам, это немного пугает. Беспилотники «Яндекса» тоже попадали в ДТП, но без смертей.
Впрочем, разработчики уверены, что ведомые искусственным интеллектом автомобили намного безопаснее человека.
— Случаи, когда беспилотники причиняли вред пока единичны. Но в каждом из них вред не сопоставим с тем, который в аналогичных обстоятельствах причинил бы человек, — рассказал РБК Андрей Незнамов, исполнительный директор Сбербанка по вопросам нормативного регулирования технологий ИИ и смежных сфер.
За один только 2020 год в ДТП на дорогах России погибло больше людей, чем за десять лет войны в Афганистане — 16 152 человека. Ни один из них не пострадал от беспилотного автомобиля с ИИ: во всех смертях виноваты другие водители-люди. Интересно, что бы мы сказали, если бы автомобили с ИИ убили 16 000 человек. Или хотя бы 160.
ИИ на службе у экологов, мошенников и убийц
Дроны делают снимки, которые затем обрабатывают с помощью самообучающихся алгоритмов. Машина сама находит на снимках пожары, здания, даже отдельные деревья. Это не будущее, это всё уже рядом с нами. Например, Институт цифры КемГУ составил цифровую карту Рудничного бора, пересчитав в нём все до единого деревья. Каждое занесли в базу данных, где описаны его точные географические координаты, высота и площадь кроны.
Сейчас дроны института оцифровывают территории Кузбасса: на карте определяются дороги, линии электропередач, здания. Карту дополнили другими данными — получилась геоинформационная система, содержащая данные об использовании земель, ходе строек, тепловизионных обследованиях территорий, сейсмической обстановке и так далее.
— Машинное зрение определяет, например, есть ли на территории крыша здания. Потенциально интересные участки передаёт на рассмотрение оператору. Так мы находим построенные без разрешения объекты, — объясняет директор института цифры КемГУ Артём Рада.
Технологии автоматического распознавания могут находить не только деревья и дома, но и людей. В марте 2020 года боевой дрон Kargu-2 в Ливии самостоятельно выследил и уничтожил человека по собственной инициативе, без участия оператора. Это произошло впервые в истории.
«Военное обозрение» сообщает, что беспилотники этого типа выбирают цели на основе машинного обучения; по каким конкретно признакам робот определяет, что перед ним враг и его нужно убить, публично не сообщалось.
Всё реальнее становится многократно экранизированное опасение: в помещение влетает рой «взбесившихся» дронов и начинает расстреливать людей. Вопрос только в том, кто в итоге опаснее: взбесившийся ИИ или человек? Чтобы устроить массовый расстрел, человеку никогда не требовался ни искусственный интеллект, ни даже обычный.
Киберпреступники активно используют ИИ для кражи денег: нейросети эффективно подбирают пароли и заражают устройства вирусами.
Отдельная история — дипфейки, поддельные видео, в которых всё более правдоподобно «подсаживают» чужое лицо. Технология поможет развиваться кинематографу, но уже используется мошенниками для обмана и шантажа. Молотком можно строить дома, а можно бить людей. ИИ в этом смысле тоже лишь инструмент.
Банковский ИИ: не даст ипотеку и уволит
Когда человек подаёт заявку на кредит, ИИ выносит решение, анализируя большой массив данных о том, какие люди и как выплачивают кредиты. Упрощённо говоря, сравнивает данные человека с другими заёмщиками и определяет риск невозврата: если похожие по параметрам клиенты платят без проблем, то и он получит одобрение. А если группа допускает просрочки, то и заявителю откажут за минуту, и повторно подать заявку удастся нескоро.
Жаловаться некуда: банк имеет право отказать без объяснения причин. А причин может быть много. В их числе и долги по алиментам, и биография родственников, и даже анализ профиля в соцсетях: если у вас много фотографий с дорогими видами, это может повысить шанс на получение кредита. Оказывается, оценивать платёжеспособность человека по его Instagram[*] — эффективная тактика. В Китае вообще предоставление услуг хотят связать с социальным рейтингом, а его — с десятками показателей и событий, от шумных вечеринок до нарушений правил дорожного движения. И рассчитывать рейтинг тоже будет ИИ.
В 2020 году до 45% всех действий по анализу платёжеспособности в российских банках проверял искусственный интеллект. Сбербанк планирует довести долю до 70%, а затем и до 100%. Получается, именно ИИ будет определять, сможет ли человек получить ипотеку, или он будет вынужден снимать жильё.
В Кузбассе робот SkyTrainer проводит обучающие курсы для сотрудников «МегаФона». Он «проигрывает» сценарии общения, имитируя различные человеческие эмоции: страх, злость, радость, печаль, удивление или заинтересованность. Нейросети системы «Цифровой бэк-офис» помогают юристам и менеджерам обрабатывать типовые запросы, распознавать ключевые данные и автоматически выдавать проекты документов. ИИ высвобождает порядка 70% рабочего времени на эти процессы.
Более того: ИИ может увольнять людей. В компании Xsolla 150 сотрудников уволили после анализа их активности в электронных системах. «Команда big data проанализировала ваши активности в Jira, Confluence, Google-почте, чате, документах, дашбордах и пометила вас как „невовлечённые“ и „малоэффективные сотрудники“», — объяснили им причину увольнения.
Правда, в Трудовом кодексе основания для увольнения «так решил ИИ» пока нет, поэтому как минимум один уволенный подал на компанию в суд, требуя восстановить его на работе, компенсировать простой и возместить моральный ущерб за оскорбление. О результатах пока не известно.
Предъявите лицо: ИИ отберёт приватность
Система распознавания лиц в банковской сфере в России уже работает: в каждом втором банкомате можно снять деньги без карты и телефона, просто посмотрев в камеру. Система считывает расположение множества точек лица — и оно становится кредиткой и кошельком.
Видеонаблюдение в общественных местах Москвы использует похожий алгоритм: лица в зоне действия камер сверяются с базой розыска, за первый месяц работы системы задержали 40 преступников. А с 15 октября лицом можно расплатиться в метро — достаточно зарегистрироваться в приложении, приложить фото и привязать карту.
Система распознавания лиц работает даже в социальных сетях. Стоит кому-то из знакомых выложить общую фотографию, как приходит уведомление: «Кажется, это вы, не желаете ли себя отметить?». Частенько это вовсе не вы, но алгоритмы совершенствуются. Учитывая, что создатель Facebоок озвучил планы создать виртуальную вселенную, это может пугать.
С таким использованием ИИ связаны два ключевых опасения. Первое — что систему сделают обязательной и ездить на метро или получить деньги, не сдав биометрию, будет просто невозможно. Второе — что данные утекут к мошенникам, которые их используют, чтобы красть деньги. Ещё люди переживают, что ИИ всё перепутает: например, камеры примут их за преступников.
Опасения возникли не на пустом месте. Для десятков тысяч сотрудников метрополитена сдавать биометрию пришлось обязательно, чтобы просто попасть на работу. Точность системы распознавания пока низкая: много ложных срабатываний, а в Китае исследователи обманули систему распознавания лиц с помощью 3D-масок, которые имитируют лица других людей.
Но главное, конечно, чтобы военный дрон не перепутал вас с известным террористом.
Приватность можно потерять не только с лицом. Стартап Seed Health начал собирать у людей фотографии кала: создатели учат ИИ распознавать по ним болезни. В телемедицине ИИ отведена значимая роль: программа уже сейчас способна выдавать предварительный диагноз, который (пока?) должен подтвердить врач-человек.
Состояние здоровья, увлечения, интересы людей и даже темы их разговоров — уже не личная тайна, а массив данных для обработки ИИ. Стоит несколько раз послушать музыку — и стриминговый сервис изучит вкус и составит целый плейлист. Отправишь поисковый запрос — получишь гору соответствующей ему рекламы. Говорят, порой и запрос не нужен, достаточно громко говорить рядом с включенным смартфоном. Правда, и Google, и Яндекс подслушивание без ведома пользователя отрицают.
Таких примеров ещё много, вплоть до единого госбанка генетической информации, но суть одна: человеку предлагается обменять приватность на комфорт. У тех, кто хочет сохранить данные в тайне, вроде бы ничего не отбирают — просто не дают новых благ. Зато дают соседу, который не боится сдать фотографию лица банку, отпечаток пальца смартфону, а образец ДНК — врачу. Итоговый результат может восприниматься как несправедливость, что наглядно показала ситуация с QR-кодами. Когда во время локдауна все одинаково лишены посиделок в кафе, это одна степень напряжения. А когда тебе нельзя, а соседу можно — совсем другая.
Восстания машин не будет
Кажется, что люди ценят приватность и не станут отдавать в распоряжение искусственного интеллекта, например, отпечаток пальца. Но стоило появиться смартфонам с такой функцией — и ею начали массово пользоваться. То же можно сказать о портале госуслуг, интернет-банкинге и других сферах, где наиболее активно внедряют ИИ.
К реальной возможности цифрового апокалипсиса эксперты относятся с большой долей скепсиса.
— Давайте дождёмся хотя бы того момента, когда машина пройдёт тест Возняка и на незнакомой кухне приготовит чашку кофе. Пока и до этого очень далеко. Все современные системы умеют решать очень узкие задачи и не способны действовать в неопределённых условиях с нечётко сформулированной (в математических терминах) целью, — отмечал в интервью РБК Александр Крайнов, руководитель лаборатории машинного интеллекта «Яндекса».
Пока ИИ создаёт людям совсем другие проблемы. Алгоритмы принимают далеко идущие решения, касающиеся страховки, трудоустройства, кредитования. И контроль за ними уже сейчас непрост: даже штраф с камеры, которая приняла тень за автомобиль, не так-то просто оспорить. Машины с ИИ не готовы «убить всех человеков», но, кажется, уже способны стать инструментом разделения и контроля в их руках.
