Технологии будущего: что может пойти не так?

В конце января компания Neuralink Илона Маска вживила чип в человеческий мозг. Он должен дать носителю возможность управлять различными устройствами силой мысли, а в будущем соединить человеческий интеллект с искусственным.

Через пару дней после заявления Маска китайские ученые объявили об успешном испытании собственного нейроинтерфейса, который частично вернул двигательные способности мужчине с парализованными конечностями. То, о чем еще вчера писали научные фантасты, постепенно становится нашей действительностью.

Технологии развиваются с космической скоростью и, вероятно, значительно повлияют на нашу реальность — как на горизонте нескольких лет, так и в более длительной перспективе. Многие из них меняют жизнь к лучшему, но всегда есть обратная сторона.

Угрозы завтрашнего дня

DeepFake. Технология наложения сгенерированного контента на исходный, реально существующий. Таким образом на фото или видео меняют лица, мимику, жесты, голос. Поддельные изображения, видео и аудио уже сегодня участвуют в предвыборных скандалах, приводят к многомиллионным потерям и используются в недобросовестных целях, нанося ущерб репутации знаменитостей.

В России мошенники тоже «цифровизируются» и уже подделывают голоса родных и знакомых, чтобы вынудить человека сообщить необходимые данные. Как и любая технология, дипфейки будут развиваться и в будущем могут представлять угрозу обхода систем лицевой и голосовой биометрической аутентификации.

Проблема использования фейкового контента усугубляется стремительным развитием генеративного искусственного интеллекта — модели ИИ, которая позволяет создавать новый уникальный цифровой контент на основе анализа существующих фото, видео, аудио, текстов или других видов данных. Пример: всем известный ChatGPT от OpenAI, который продемонстрировали потенциал этой технологии и ускорил ее повсеместное внедрение.

Человек будущего

Нейроинтерфейсы: взлом имплантов и «цифровые галлюцинации»

Система обмена информацией между мозгом и компьютером. Сегодня применяется в медицине, протезировании, при восстановлении утраченных функций организма — двигательной способности, слуха, зрения. Теоретически нейроинтерфейсы смогут открыть людям новые возможности: управление устройствами силой мысли, телепатическое общение, быстрый доступ к информации и знаниям в любой момент.

Илон Маск уверен, что чипы в будущем станут массовым продуктом, потому что люди будут вынуждены стать киборгами, и без такого апгрейда человеку не угнаться за развитием нейросетей. А снижение инвазивности при имплантации и извлечении позволит устанавливать и заменять их без особых сложностей.

Широкое распространение нейроинтерфейсов породит новые угрозы безопасности, такие как взлом имплантов для слежки или перехвата контроля. Можно предположить, что в ходе развития двунаправленных нейроинтерфейсов станут возможны и атаки на «технологические процессы» в организме человека. Имея прямой «доступ» в мозг жертвы, злоумышленники смогут вызвать «цифровые галлюцинации» и психические расстройства, управлять мыслями, перехватывать управление опорно-двигательным аппаратом, создавая таким образом подобие «зомби». Кроме того, нейроимпланты способны усугубить социальное неравенство и стать принципиально новым видом оружия.

Для защиты от таких атак потребуется разработка цифровой иммунной системы для имплантов и нейроинтерфейсов. Сложной задачей станет и обеспечение приватности и неприкосновенности частной жизни. Любое действие человека будет оставлять цифровые следы, которыми могут злоупотребить компании, обрабатывающие эти данные, или злоумышленники.

Аугментация человека: способности за гранью возможного

Комплекс биологических и технологических подходов, способных расширить возможности человеческого организма. Это и улучшение существующих функций, и совершенно новые модификации: сверхострое зрение или слух, регенерация органов, суперинтеллект. Спектр возможностей еще предстоит сформировать, а суперлюди могут появиться очень нескоро.

Однако вероятность развития таких технологий необходимо учитывать уже сейчас. Действующие алгоритмы защиты и протоколы безопасности основаны на возможностях и ограничениях современного человека. И с развитием аугментации, которая выведет биологические, физические и психологические характеристики людей на новый уровень, просто станут неактуальными.

Индивидуализированная медицина: вирусы-вымогатели

Набор методов для диагностики и профилактики заболеваний, основанных на индивидуальных особенностях организма человека. Одной из технологий такой медицины могут стать нанороботы и сенсоры, внедряемые в организм.

Как и любые технические устройства их, вероятно, смогут атаковать преступники, чтобы украсть информацию, следить за носителем или нанести вред организму. Кроме того, возможно развитие новых форм вирусов-вымогателей, которые будут заражать эти устройства, блокировать или нарушать их работу с целью получения «выкупа» или совершения других действий, необходимых злоумышленникам.

Глобальная угроза

Сильный искусственный интеллект (Artificial General Intelligence, AGI). В научном сообществе создание AGI вызывает продолжительные споры: одни прогнозируют его появление на горизонте от 100 лет, другие полагают, что это вовсе невозможно. Однако изучение технологии уже ведется: более 70 исследовательских проектов по созданию AGI запущено в 37 странах.

Эксперты полагают, что AGI будет понимать и выполнять любую интеллектуальную задачу быстрее и лучше человека. В отличие от развивающегося сегодня ИИ, тренируемого для выполнения узкоспециализированной задачи, AGI сможет заменить человека практически в любой сфере деятельности, осваивая новые навыки без утери уже усвоенных. Это кардинально изменит все сферы человеческой деятельности и создаст новые киберугрозы.

Во-первых, это появление «умного» самообучающегося вредоносного программного обеспечения, способного одинаково эффективно взаимодействовать и с вычислительными устройствами, и с человеком. Самообучаемость позволит такому ПО генерировать новые многоступенчатые техники атаки и обходить средства защиты. Противодействовать ему традиционными методами станет практически невозможно.

Во-вторых, это массовая генерация фейкового контента для провоцирования паники, манипуляции действиями людей, а также взрывной рост мошенничества. Сбор и анализ большого количества цифровой информации позволит подбирать персональные методы атаки, что повысит шанс их успеха практически до 100%.

Сильный ИИ может в какой-то момент стать непредсказуемым для разработчика и сменить заложенные в него цели и приоритеты.

Сойти с ИИ-ума

Решение все более сложных задач будет переходить от человека к ИИ, что потребует ускорения обучения, большей автономности и самостоятельности. Никто не знает, как такая информационная перегрузка может повлиять на искусственный интеллект.

Вполне возможно, что на определенном уровне сложности у ИИ-систем начнут возникать расстройства, схожие с психическими расстройствами людей. Такие отклонения могут привести к значительным последствиям, вплоть до массовых беспорядков, нарушения функционирования предприятий, городов и целых регионов.

Первым примером подобного поведения стал самообучающийся чат-бот Tau от Microsoft. В 2016 г. компания запустила его в Twitter, чтобы отвечать на твиты и личные сообщения. Всего через несколько часов Tau стал писать оскорбительные и агрессивные сообщения, и его пришлось отключить.

Читайте также: А если роботы фантазируют? Что такое галлюцинации ИИ

БКС Мир инвестиций