Двар Эв торжественно запаял золотом последний контакт. Двенадцать телекамер неотрывно следили за каждым его движением - трансляция шла на всю галактику. Он выпрямился и кивнул Двар Реину. Затем подошел к выключателю, который скоро замкнет цепь. К выключателю, соединяющему одновременно все компьютеры всех обитаемых планет - девяносто шесть миллионов миров - в суперсеть, которая объединит их в один суперкомпьютер, единую кибернетическую машину, собравшую мудрость всех известных миров.
Двар Реин обратился с короткой, вступительной речью к биллионам телезрителей и затем, после короткой паузы, он произнес:
- Пора, Двар Эв!
Двар Эв нажал выключатель. Раздалось мощное гудение, пошла энергия девяноста шести миллионов планет. На бесконечно длинном пульте замигали разноцветные огоньки. Он отошел назад и громко провозгласил:
- Честь задать первый вопрос принадлежит вам, Двар Реин!
- Благодарю, - ответил Двар Реин, Это будет вопрос, на который не мог ответить ни один компьютер.
Он повернулся к пульту. - Есть ли бог?
Могущественный голос раздался сразу. - ДА. ТЕПЕРЬ БОГ ЕСТЬ!
Двар Эв понял не сразу, но потом страх исказил его лицо - он бросился к выключателю...
Молния сорвалась с безоблачного неба и испепелила его на месте, намертво запаяв соединение.

© Фредерик Браун "Ответ", 1954 год.

Мир стоит на пороге величайших перемен, и за каждыми крупными прорывами скрываются необратимые последствия. Наука бьёт тревогу: искусственный интеллект (ИИ), с каждым днём расширяя свои возможности, может стать причиной гибели человечества.

Британская газета The Times опубликовала мнение ведущих учёных: если развитие ИИ не взять под контроль, вероятность вымирания человечества превышает 95%. Эксперты и инженеры предупреждают: без срочного регулирования сверхразумные алгоритмы могут обернуться катастрофой – источник.

Соарес сравнил ситуацию с машиной, которая несётся на полной скорости к обрыву: «Я не говорю, что мы не сможем остановить машину. Но мы просто несемся на всех парах к обрыву»  – источник.

Факты:

• По мнению Нейта Соареса, главы некоммерческого Machine Intelligence Research Institute и бывшего инженера Google и Microsoft, если мир продолжит развивать ИИ прежними темпами, человечеству грозит вымирание с вероятностью не менее 95% – источник.

• Один из гипотетических сценариев: сверхразумный ИИ может распространить скрытые биологические агенты в крупных городах, чтобы уничтожить миллионы людей одновременно.

• Сегодняшние ИИ — “узкий интеллект”, но в ближайшие годы возможен переход к общему ИИ, сопоставимому или превосходящему человека во всех сферах – источник.

• Альтернативные оценки других экспертов менее пессимистичны: руководитель движения PauseAI Холли Элмор оценивает вероятность в 15–20%, Илон Маск и Сундар Пичаи дают прогнозы 10–20% – источник.

«Вероятность вымирания человечества из-за искусственного интеллекта составляет как минимум 95%, если мы продолжим идти по нынешнему пути», — Нейт Соарес, Machine Intelligence Research Institute – источник.

Повторяем сценарий Матрицы?