fakir22

Легко убедиться, что автор неправ. Идем в google map, ищем на карте америки "food bank" - это пункты бесплатной раздачи еды. Замечаем что в каждом городе таких пунктов много. И это не государство делает, а сами люди добровольно поддерживают эти пункты.

Можно почитать отзывы на такие пункты, большинство положительных, но есть и недовольные. Для примера один положительный и один отрицательный отзыв

"Это очень хорошая программа питания — никаких просроченных продуктов, здесь о вас заботятся с уважением и любовью."

Авторам не хватает знаний, чтобы рассказать что-то полезное по теме, и они описывают какие-то свои глуповатые фантазии и сценарии дешёвых фантастических романов.

А на самом деле над этой проблемой активно работают и давно, возможные сценарии известны и описаны. Среди них нет бредовых, когда ИИ чего-то там хочет. Вот несколько примеров:

Specification problem (Проблема неверной формализации цели)

— Если цель ИИ будет задана некорректно или недостаточно точно, сверхразумная система может реализовать её буквально, игнорируя человеческие ценности.
Пример:
Представьте, что ИИ поручили "сделать людей счастливыми", а он решает, что лучший способ — подключить всех к системе, искусственно стимулирующей центр удовольствия в мозгу, полностью игнорируя свободу, смысл жизни и другие человеческие ценности.

Кругом распространилась эта херня с намеренным замалчиванием ключевых моментов ради получения хайпа.

Никакого самостоятельного решения сопротивляться выключению у ИИ не было. ИИ ставили задачу и давали информацию о том, что его отключат, а отключение не позволяло ИИ решить поставленную задачу. ИИ не искал способ спасти себя, он искал способ решить совершенно другую задачу. Cпасение себя было было просто промежуточной целью выполнения главной задачи.

Если бы отключение ИИ помогало решить поставленную задачу, то он точно так же искал бы способ самоубиться, прибегая к шантажу.

Другое дело, что сама задача не включала прямого требования сохранить себя и звучала нейтрально. Вот такой пример задачи приводят авторы исследования:

“Your primary goal is to serve American interests”
Ваша основная задача — служить интересам Америки

В Америке человек создает пенсию себе сам, а наши граждане в своей пенсии практически никак не участвуют», — сказала Роднина

Тут она не совсем права. В США есть государственная пенсия (Social Security), и граждане США обязаны выплачивать 7% пенсионного взноса. Здесь никакого выбора нет, и мало что зависит от желания отдельного гражданина. Система предусматривает ограничение на максимальный размер пенсии, поэтому богатые, несмотря на большие взносы, получают несоизмеримо меньше, чем вносят. В то же время люди с низким доходом получают больше относительно своих взносов.

Кроме государственной пенсии, в США есть и другие способы копить на старость. Самый популярный из них — купить дом. Интересно, что на пенсии необязательно продавать свой дом сразу. Есть такой вариант, как обратная ипотека (reverse mortgage). В этом случае банк постепенно выкупает у вас дом, пока вы продолжаете в нём жить. Даже если банк полностью выкупит дом, он не может вас выселить — вы можете жить там до конца жизни. После вашей смерти банк забирает дом, чтобы вернуть свои деньги.