Ученые предупредили об опасности искусственного интеллекта для человечества
В разгаре бурного развития искусственного интеллекта, вопрос о его потенциальной угрозе для человечества остается актуальным.
Доктор физико-математических наук и заведующий отделом теории цифровых автоматов Института кибернетики имени В. Глушкова НАН Украины, Александр Летичевский, поделился своими мыслями об этом в эксклюзивном интервью для РБК-Украина.
"Человечество можно будет цивилизационно уничтожить, если искусственный интеллект будет активно участвовать в социальных сетях и влиять на обычных пользователей. На какую степень мы ему позволим вмешиваться в жизнь человечества, так это и будет. Ведь если мы ему позволим запускать ракеты и принимать решения на основе искусственного интеллекта, тогда, конечно, это опасно," предостерегает ученый.
Он также уточнил, что фантастические сценарии уничтожения человечества вроде известных из фильмов пока далеки от реализации. Однако Летичевский подчеркнул случаи ошибок, такие как инцидент на складе, где робот ошибочно воспринял человека за товар и причинил вред. Ученый отметил, что плохо натренированные нейронные сети могут допускать ошибки, и эти инциденты будут происходить, поскольку технология еще совершенствуется.
"Нужно контролировать такие продукты и сертифицировать. Chat GPT не опасен, но люди начинают ему уже доверять. Но там есть такие явления, как галлюцинации - вымышленные факты и события," добавил Летичевский, подчеркивая важность легитимации и контроля искусственного интеллекта.
Он высказал мнение, что системы искусственного интеллекта должны проходить лицензирование, аналогичное лекарствам или аттракционам, чтобы быть безопасными для использования в различных отраслях. "С чат-ботами можно создать много аккаунтов в соцсетях, и они будут агитировать людей за определенные политические партии или подстрекать к неправомерным действиям. Это уже нападение на демократию. Поэтому это нужно отслеживать и сертифицировать, потому что это влияние на общее сознание в соцсетях," заключил ученый.
Он также подчеркнул, что развитие искусственного интеллекта будет влиять на все сферы
