Уволился из Google и предупредил об опасности: «крестный отец ИИ» о рисках технологий

Пионер в области искусственного интеллекта (ИИ) ученый Джеффри Хинтон предупредил об опасностях, связанных с инновационными технологиями, пишет The New York Times. Он не говорил о рисках открыто, пока был сотрудником Google, но недавно уволился из компании после 10 лет работы.

10 лет назад

В 2012 г. Хинтон и двое его аспирантов из Университета Торонто Илья Суцкевер и Алекс Кришевский создали технологию, ставшую основой для ИИ. Они построили нейронную сеть, которая могла анализировать тысячи фотографий и обучалась идентифицировать обычные объекты — цветы, автомобили и другое.

В 2013 г. их стартап DNNresearch был приобретен Google за $44 млн. Спустя пять лет исследователи получили премию Тьюринга за свою работу над нейронными сетями. Хинтон считал, что созданные им и коллегами технологии — это мощный способ, благодаря которому машины смогут понимать и генерировать тексты, но он уступает способностям людей обращаться с языком.

Сегодня

В этом году Хинтон, которого называют «крестным отцом ИИ» ушел в отставку из Google, заявив, что теперь может свободно говорить о рисках технологий и что частично сожалеет о работе всей своей жизни.

«Я утешаю себя обычным оправданием: если бы я не сделал этого, это сделал бы кто-то другой», — отметил ученый.

Сейчас лидеры отрасли признают, что развитие ИИ может привести к прорыву во многих областях. В то же время они опасаются, что создают нечто опасное. По этой причине сообщество ученых, предпринимателей, а также различные организации выпускают открытые письма, в которых просят приостановить работу над технологиями и предупреждают о рисках. Хинтон не подписал ни одно из этих писем, сказав, что не хочет публично критиковать Google и другие компании, пока не уволится с работы. Теперь он высказывает свои опасения.

«Посмотрите, где мы были пять лет назад и где мы сейчас […] Возьмите эту разницу и спроектируйте ее на будущее. Это страшно».

Когда компании стали создавать системы, которые используют все большие объемы данных, Хинтон отметил, что в некотором отношении технологии уступают человеческому разуму, но в других случаях уже затмевают его.

«Возможно, то, что происходит в этих системах, на самом деле намного лучше, чем то, что происходит в мозге».

Риски

• Хинтон опасается, что в будущем Интернет будет наводнен фальшивыми фотографиями, видео и текстом, и обычный человек «больше не сможет знать, что правда».

• Ученый также обеспокоен тем, что технологии со временем перевернут рынок труда, в первую очередь заменив специалистов, выполняющих рутинные задачи.

• Кроме того, по его мнению, ИИ представляют настоящую угрозу — системы уже не просто генерируют код, они способны самостоятельно его запустить, а это значит, что они могут стать автономным оружием.

«В идею о том, что эта штука действительно может стать умнее людей, поверили лишь немногие […] Я думал, что это произойдет через 30–50 лет или даже больше. Очевидно, я больше так не думаю».

• Хинтон считает, что ту гонку, в которую сейчас вовлечены технологические компании, остановить невозможно. Стоит лишь надеяться на то, что ведущие ученые мира будут сотрудничать в поиске способов управления технологией.

Читайте также: Торгуем фьючерсами и спорим в комментариях. Поможет ли ChatGPT инвесторам

БКС Мир инвестиций