Нобелевский лауреат Хинтон: нейросети могут устроить катастрофу уже в этом году
Что должно случиться, чтобы человечество наконец всерьёз испугалось искусственного интеллекта? По мнению человека, стоявшего у истоков технологии, — нечто столь же страшное, как чернобыльская катастрофа. И случиться это может уже совсем скоро.
Сбой, который изменит всё
Нобелевский лауреат Джеффри Хинтон, которого часто называют «крёстным отцом» искусственного интеллекта, заявил: уже в нынешнем или в следующем году нейросети могут вызвать ЧП глобального масштаба. Речь может идти, например, о серьёзном сбое в работе энергетических или финансовых систем, сообщает Коммерсантъ со ссылкой на The Guardian.
Профессор сравнил такую ситуацию с аварией на Чернобыльской АЭС и предположил, что, возможно, только такой инцидент заставит человечество всерьёз относиться к рискам ИИ.
«Возможно, было бы лучше, если бы мы вообще не создавали эту технологию», — сказал он.
«Им важнее деньги»
По мнению учёного, руководители хайтек-корпораций, включая Илона Маска, Марка Цукерберга и Сэма Альтмана, осознают опасности ИИ, но «им это безразлично, им важнее деньги». Хинтон также заявил, что в ближайшее десятилетие станет понятно, сможет ли человечество справиться с рисками ИИ и обеспечить то, что он назвал «радикальным изобилием». В противном случае, по его мнению, ИИ «приведёт к огромному разрыву между богатыми и бедными, огромным культурным проблемам, массовой безработице, так что общество будет разрушено».
Ранее профессор уже заявлял, что ИИ способен уничтожить человечество, и призывал правительства разных стран запретить разработку сверхмощных ИИ-систем. Джеффри Хинтон, работающий в Университете Торонто, стал лауреатом Нобелевской премии по физике в 2024 году за «основополагающие открытия и изобретения, обеспечивающие машинное обучение с использованием искусственных нейронных сетей».
Почему это важно для нас
Слова Хинтона — не абстрактные страшилки. Русские специалисты не раз отмечали: бесконтрольное развитие нейросетей несёт риски и для энергетики, и для финансов, и для рынка труда. Пока одни спорят о «радикальном изобилии», другие задаются вопросом: кто и как будет отвечать, если ИИ действительно даст сбой? Ответа на него у мировых корпораций, судя по всему, до сих пор нет. А значит, предупреждение «крёстного отца» ИИ не стоит сбрасывать со счетов — пока не грянул новый Чернобыль.
Уважаемые читатели «Царьграда»!
Присоединяйтесь к нам в соцсетях ВКонтакте, Одноклассники, Telegram и Дзен-канале.