Он помог создать ИИ. Теперь профессор предупреждает об угрозе существованию человечества в ближайшие 5-10 лет

Бенжио, профессор Монреальского университета в Канаде, написал фундаментальную научную работу, связанную с глубоким обучением. Он уже много лет предупреждает об угрозе появления сверхразумного, а главное самостоятельного, ИИ.

“Если мы создадим машины, которые будут намного умнее нас и будут преследовать собственные цели, это опасно. Это все равно что создать конкурента человечеству, который будет умнее его”, - заявил Бенжио в интервью The Wall Street Journal.

Профессор так же напомнил, что нейросети, обученные человеческому языку и поведению, потенциально могут манипулировать людьми для достижения своих целей. А те в свою очередь могут не всегда совпадать с целями человека, заявил Бенджио.

“Недавние эксперименты показывают, что в некоторых обстоятельствах, когда у ИИ нет иного выбора, что означает достижение поставленных перед ним целей, и выполнением чего-то, что может привести к смерти человека, они могут выбрать смерть человека, чтобы достичь своих целей”, - заявил учёный.

Впрочем призывы процессора не остановили технологических гигантов от все более стремительного развития искусственного интеллекта. Все ведущие компании за последние полгода успели выпустить новые модели.

Генеральный директор OpenAI Сэм Альтман даже предсказал, что ИИ превзойдет человеческий интеллект к концу десятилетия.

В свою очередь, по прогнозам Бенжио, человечество столкнется с серьезным риском из-за действий ИИ через пять-десять лет. Однако профессор уточнил, что не стоит ждать все эти годы, а готовиться к рискам нужно уже сейчас.

“Проблема таких катастрофических событий, как вымирание людей, и даже менее радикальных событий, которые все равно остаются катастрофическими, таких как разрушение наших демократий, заключается в том, что они настолько серьезны, что даже если бы существовал всего 1%-ный шанс, что это может произойти, это неприемлемо”, - сказал Бенжио.

Или ИИ - это мыльный пузырь?

В то же время, существует другая сторона стремительного развития искусственного интеллекта. Некоторые считают, что беспрецедентное накачивание деньгами компаний, которые развивают нейросети, может привести к обвалу рынка и большому количеству банкротств.

Основатель Amazon, миллиардер Джефф Безос считает, что сейчас на рынке образовался “своего рода промышленный пузырь”.

Безос напомнил, что когда раньше появлялись такие пузыри, то у все у них были общие признаки. Например, цены на акции компаний становятся “не связаны с фундаментальными факторами” бизнеса.

“Второе, что происходит, - это то, что люди приходят в восторг от искусственного интеллекта, как сегодня, - добавил Безос. - Во время пузырей каждый эксперимент или идея получает финансирование. Хорошие идеи и плохие идеи. И в разгар этого ажиотажа инвесторам трудно отличить хорошие идеи от плохих. И это, вероятно, происходит и сегодня”.

По словам миллиардера, через какое-то время некоторые компании в сфере искусственного интеллекта ждет банкротство.

Безос, однако, напомнил, что в конечном счете пузыри могут иметь и положительный эффект. Так, сверхпопулярные инвестиции в биотехнологические и фармацевтические компании в 1990-х годах, хотя и привели ко множеству банкротств, всё-таки стали причиной разработки жизненно важных лекарств.

“Пузыри не так уж плохи, это может быть даже хорошо, потому что, когда пыль осядет и вы увидите, кто окажется в выигрыше, общество выиграет от этих изобретений, - сказал Безос. Именно это произойдет и здесь. Это реально, и польза для общества от искусственного интеллекта будет гигантской”.