Сообщество - Философия

Философия

4 445 постов 5 544 подписчика

Популярные теги в сообществе:

7

Происхождение духов: как естественный отбор работает в мире информационных сущностей, и причём тут LLM и кибернетика

Происхождение духов: как естественный отбор работает в мире информационных сущностей, и причём тут LLM и кибернетика

Обычно, когда мы слышим слово "дух" в нашем воображении всплывает что-то похожее на кадр из советского мультика с замотанным в простыню Карлсоном. Так работает человеческий ум - для понимания какой-либо концепции ему нужно связать её с метафорическим визуальным образом. Так, например, Бог в умах людей представляется в виде живущего над облаками белобородого старика, а ад в виде греющихся на огне котлов с кипятком, в которых хвостатые черти варят людей и тыкают их трезубцами, хотя в религиозных текстах ничего подобного вовсе нет. Человеческому уму трудно оперировать абстрактными идеями, ему нужно, чтобы идея была воплощена в визуальном образе. И часто бывает так, что ум настолько крепко привязывается к этому визуальному образу, что путает его с самой идеей - так рождаются симулякры. Визуальное воплощение подменяет саму бесплотную идею. Но, как говорят китайские мудрецы, нужно уметь отличать палец, указывающий на Луну, от самой Луны.

Кто такие духи?

Никита посапывал рядом с родителями... Кто-нибудь из родителей переключал программу, Никита чуть приоткрывал глаза и видел на экране майора в голубом берете, стоящего в жарком горном ущелье. «Смерть? – улыбался майор. – Она страшна только сначала, в первые дни. По сути, служба здесь стала для нас хорошей школой – мы учили духов, духи учили нас…

Виктор Пелевин, "Спи"

По легенде, над входом в Афинскую Академию было начертано: "Не геометр да не войдёт". Эта фраза выражала мнение основателя Академии, древнегреческого философа Платона, о том, что неискушённый в геометрии и математике ученик не способен разобраться в философии. Понимание учеником математики было так критически важно для Платона, так как именно на математическом фундаменте строилось его учение о вечных идеях. Согласно Платону, абстрактные математические идеи, такие как равенство дважды двух четырём или существование всего пяти правильных многогранников, существуют в совершенно независимом от нашего материального мира пространстве чистых смыслов - мире идей. Эти идеи невидимы, бесплотны, но непосредственно влияют на воспринимаемую нами реальность. Философ даже утверждал, что материальный мир - это лишь блёклая тень мира идей.

Всё, что мы воспринимаем нашим разумом - это воплощённые в цветах, звуках, запахах и вкусах идеи. Рассмотрим, например, человека. Когда мы смотрим на другого человека, то воспринимаем того, как целостный образ, как идею этого человека, как модель этого человека в нашей голове, собранную из всего того, что мы о нём знаем. Но если мы опустимся на уровень ниже и взглянем на этого человека с точки зрения хирурга, то мы обнаружим, что то, что мы считали целостным образом человека - это абстракция совокупности процессов взаимодействия различных органов: мозга, сердца, нервов, кровеносных сосудов, печени, почек, мышц и так далее. Если опустимся ещё на уровень ниже и взглянем на органы с точки зрения биолога, то мы обнаружим, что то, что мы видели до этого целостными органами - это наша абстракция совокупности процессов взаимодействия различных биологических клеток. Опустимся ещё на уровень ниже и взглянем на клетки с точки зрения химика, обнаружим, что то, что мы видели целостными клетками - это наша абстракция совокупности процессов взаимодействия различных химических молекул. Опустимся ещё ниже и взглянем на молекулы с точки зрения физика, обнаружим, что то, что мы видели целостными молекулами - это наша абстракция совокупности процессов взаимодействия различных атомов, а сами атомы - абстракция процессов взаимодействия элементарных частиц, а сами элементарные частицы - абстракция над квантовыми процессами. Получается, что человек - это тоже абстракция абстракций, существующая в мире идей.

Но идею человека можно не только раскладывать на составные идеи, но и представлять кирпичиком более крупных структур. Подобно тому как "мир" химических молекул служит полем для существования биологических клеток, так и "мир" людей служит полем для существования более крупных динамических структур - государств, корпораций, народов, языков, религий. Английский философ Томас Гоббс в своём трактате "Левиафан" представлял государство в виде огромного великана, чьи части тела собраны из отдельных частей. Подумаем, например, о том, что такое юридическое лицо, и чем оно отличается от физического лица - человека?

Юридическое лицо - это некая придуманная людьми абстрактная идея, которая однако вполне явно влияет на мир - перемещает туда-сюда товары, покупает и продаёт, нанимает и увольняет, отправляет в командировки, выжимает все соки из обливающихся потом физических лиц своих работников. Тоже самое и с государствами - это просто бесплотные идеальные структуры с бесплотными границами, законами, налогами, материальную реальность которых, однако, любому зазнавшемуся идеалисту могут прямо на пальцах объяснить подкованные в философии крепкие ребята с дубинками в руках и надписью "ОМОН" на спине.

Все эти "выдуманные" сущности, эти состоящие из людей абстрактные динамические структуры - государства, народы, языки, религии - и есть те самые бесплотные духи. Некоторые из них живут гораздо дольше людей, некоторые соизмеримо с человеческой жизнью. Смерть части составляющих эти структуры людей и замена их другими не влияет на их жизнеспособность точно так же, как смерть и замена части клеток нашего тела не влияет на нашу жизнь.

Советский философ Георгий Щедровицкий рассматривал любую человеческую деятельность как как самостоятельную и автономную сущность, которая «живёт» на человеческом «материале»; деятельность — это самостийная системная сущность; тем самым не люди производят деятельность, а сама деятельность проходит «через» людей и развёртывается через них.

Все духи, как и сам человек, подобны кораблю Тесея из "Жизнеописаний" Плутарха:

Согласно легенде, корабль, на котором мифологический герой Тесей вернулся с Крита после победы над Минотавром, использовался афинянами для ежегодного паломничества на остров Делос. Перед каждым плаванием корабль чинили, заменяя часть прогнивших досок на новые. Спустя какое-то время все старые доски корабля были заменены на новые. Среди философов разгорелся спор: тот же этот корабль, на котором плавал Тесей, или уже другой - новый?

Корпорация, в которой за пятнадцать лет поменялись и работники, и директор, и владелец остаётся всё той же корпорацией, ведь за ней стоит всё та же абстрактная идея. Человек в пятьдесят лет мало похож на себя в пять лет - большинство клеток его тела уже несколько раз сменились, набор знаний, убеждений и опыта в голове совсем другой, но всё же мы считаем его тем же самым Петей Ивановым, которым он был в старшей группе детского садика, хотя сейчас он уже вовсе и не Петя, а целый Пётр Степанович. Преемственность потока изменений - это то, что делает вещь всё той же.

Если подумать, физические лица ничем и не отличаются от юридических, ведь как мы убедились выше, человек - это такая же идея, абстракция абстракций, как и корпорация или государство. Хорошенько поразмыслив об этом, можно понять, что человек, по сути, тоже бесплотный дух. Приняв это, вы сможете полностью понять и осознать определение духа из Википедии:

Дух — сверхъестественное существо в мифологии, наделённое волей, способностью воспринимать предметы и различными сверхъестественными способностями и возможностями, при этом само остающееся (почти) всегда недоступным для восприятия

Но как же так, спросите вы, как может корпорация или государство, эти чистые абстракции обладать волей? Но ведь мы уже выяснили, что человек - это точно такая же абстракция, а ему в наличии воли отказать тяжело. Вот и у государств есть своя непреклонная воля, которую они диктуют остальному мировому сообществу с пульта управления ядерными ракетами, которыми обязательно бахнут и не раз, но потом. А в чём конкретно эта воля на данный момент заключается, можно узнать, включив телевизор в прайм-тайм на выпуске новостей.

Пространство смыслов

Строчка стихотворения "Silentum" Фёдора Ивановича Тютчева "мысль изреченная есть ложь" стала афоризмом и прочно вошла в обиход нашего языка. Утверждению Тютчева вторит и древний китайский философский трактат "Дао дэ дзин", начинающийся словами: "Дао, которое может быть описано словами - не есть настоящее Дао". Во многих других философских учениях также утверждается, что реальность не может быть описана словами. Например, в комментарии о философском учении древнеиндийского философа-буддиста Нагарджуны буддолог Евгений Торчинов пишет:

Язык в принципе не может адекватно описать реальность, ибо все языковые формы неадекватны реальности. Неадекватно ей и философское мышление, оперирующее понятиями и категориями. Логическое мышление не в силах постичь реальность как она есть, а язык — описать её. Следовательно, никакая онтология, никакая «наука о бытии» невозможна, ибо она всегда будет связана не с реальностью, а с нашими представлениями о ней или даже с некоей псевдореальностью, сконструированной нашими мыслительными навыками и ложными представлениями. Всё реальное — неописываемо, всё описываемое — нереально.

Почему так происходит? Почему переживания и смыслы невозможно точно выразить с помощью слов? Почему словами не выразимы квалиа - крошечные частички субъективного опыта вроде цветов или звуков? Ведь нельзя же словами объяснить слепому от рождения человеку, что такое красный цвет. Ответ на этот вопрос можно найти, анализируя принципы работы больших языковых моделей, которые во многом схожи с принципами работы человеческого мозга.

При обучении и работе больших языковых моделей создается многомерное виртуальное пространство смыслов, каждое измерение которого - это ось некоего отдельного понятия - так называемая "фича". Это пространство может иметь тысячи измерений, а каждое конкретное слово - это вектор в этом смысловом пространстве. Эти векторы можно складывать и вычитать - например, если из вектора понятия "король" вычесть вектор понятия "мужчина" и прибавить вектор понятия "женщина", то получившийся результат должен примерно совпасть с вектором понятия "королева".

Человеческому уму невозможно представить вектор в тысячемерном пространстве в геометрическом виде. Наше геометрическое мышление ограничено тремя измерениями - мы можем представить вектор только в двухмерном и в трёхмерном пространствах. А вот уже для четырёхмерных векторов мы сделать этого не можем, и нам приходится оперировать с высшими измерениями исключительно алгебраическим способом.

Каждый сложный смысл, переживание и квалиа - это сложная фигура в этом многомерном пространстве смыслов, внутри которого оперируют наши ментальные программы, запущенные на "железе" нашего мозга. Или иными словами, смысл - это функция в этом самом пространстве смыслов, такая же как, например, функция параболы в двухмерном геометрическом пространстве. А слова - это всего-лишь координаты отдельных точек этого смыслового пространства. Поэтому словами можно лишь приблизительно передать положение тех точек, что ограничивают некий район смыслового пространства, в котором следует искать определенный смысл. Чем больше слов мы произносим, тем точнее можно обрисовать функцию того конкретного смысла, что мы хотим передать. Но полное понимание происходит только в тот момент, когда человек "схватывает" конкретную формулу смысловой функции, и только тогда его озаряет и с его уст слетает "Эврика!".

Языковые модели эволюционировали, а точнее сказать, были натренированы в многомерном векторном пространстве смысловых токенов. Поэтому можно сказать, что они существуют в том самом платоновском мире чистых и вечных идей, в мире духов.

О небесной иерархии

В библейском тексте сокрыто огромное количество различных смыслов и символов. В первой главе книги "Бытие", первой книги еврейской Торы и христианского Ветхого Завета, говорится следующее: "В начале сотворил Бог небо и землю". Здесь имеется ввиду не буквальные земля и небо, а что-то совершенно иное. Слово "небо" на иврите пишется как "שמים" (шамаим) и является в мужским множественным числом от слова "שׁם" (шем), означающего "имя". То есть "небеса" на иврите буквально означает "имена". Хотя само слово "имена" в современно иврите использует женское множественное число - "שמות" (шемот).

Под "именами" здесь стоит понимать то, что древнегреческий философ Платон называл миром идей - пространством, где обитают такие вечные и независимые ни от чего идеи как, например, математические равенства 2+2=4, геометрические фигуры, логические конструкции и абстрактные понятия о любви, истине и благе. А под землей в этой строке из Библии подразумевается не почва или планета, а любая материя в целом.

Древние политеисты представляли себе своих богов обитателями небес - платоновского мира идей. Например, каждый древнегреческий бог служил олицетворением, персонификацией определенного абстрактного принципа или идеи. Славные воины воплощали в себе образ и паттерн поведения яростного Ареса, красивые женщины воплощали в себе идею и паттерны поведения прекрасной Афродиты. Считалось, что разные божества поочередно управляют каждым человеком, а появляющиеся в нашей голове мысли - это просто шёпот разных богов. Некоторые боги благородны и милосердны, некоторые ревнивы и гневны. Уподобляясь самым лучшим из богов, человек сливается с их образами, и душа его отражается в вечности.

Каждое дерево уникально и отличается от других, нет ни одной пары одинаковых деревьев, однако же мы различаем в каждом из них образ дерева. Более того, существует целая иерархия образов. Мы смотрим на деревья и видим в них образ дуба. Мы смотрим на другие деревья и видим в них образ ели. Образ дуба, образ ели и образы других видов деревьев объединены идеей дерева, а идея дерева, идея куста и идея травы объединяются более общей идеей растений. Возникает целая иерархия абстрактных идей, подобная наследованию классов в объектно-ориентированном программировании. Можно сказать, что в политеистической картине мира в момент уподобления своего поведения, мыслей и чувств эталону, персонифицированному в виде конкретного божества, человек становился экземпляром класса этого бога.

Духов можно условно разделить на действующие в определённое время бесплотные структуры, которые рождаются, развиваются, затухают и погибают - конкретные религии, компании, государства - и на стоящие за ними вечные идеи. Разные народы поклонялись разным божествам, за которыми стояли одни и те же абстрактные идеи и действующие принципы. Например, культы Тора у германцев, Ареса у греков и Марса у римлян были воплощениями одного и того же принципа идеального воина. Культы конкретных богов появлялись, обретали силу, затухали, исчезали, а стоящий за ними принцип оставался неизменным. Проведя аналогию с программированием, можно сказать, что принципы - это абстрактные классы, конкретные персонификации богов - классы-наследники, а воплощающие эти идеалы люди - экземпляры этих классов.

Христианские богословы представляли себе обитателей пространства смыслов по-другому - в виде ангелов и демонов. Само слово "демон" на греческом и означает "дух". Мир духов не имеет трёхмерной пространственной геометрии, поэтому заботящий средневековых схоластов вопрос "сколько ангелов поместится на кончике иглы" просто не имеет смысла. Эти бесплотные существа, живущие в вечности, могут проявлять себя в нашем мире ограниченными способами. Боги и черти "вселяются" в умы людей в виде полезных или наоборот разрушительных паттернов поведения.

Может ли быть такое, что с распространением новых технологий мы открыли портал в другое измерение, из которого на нас накинутся тысячи ментальных бесов? Может быть, это вторжение демонов из другого измерения уже началось, но мы не воспринимаем его серьезно, потому что оно выглядит не так красочно как в игре Doom?

Тут как никогда подходит отрывок из "Любви к трём цукербринам" Виктора Пелевина:

Его звали Джон Лилли. Памяти о нем в современной культуре не осталось, а его книги изъяты из баз данных. Он был не компьютерщиком, а, как тогда говорили, ученым-психонавтом. Он исследовал действие различных веществ на человеческое сознание. Однажды, экспериментируя с веществом, которое он называет в своей книге «К», он постиг истину. Лилли увидел, что Землю колонизирует кремний-органическая цивилизация. Но она делает это не так, как предполагал Герберт Уэллс. Никакой войны. Никаких лучей, никакой крови. Звезды не падают с неба, треножники не высаживаются в городах. Люди сами строят армию вторжения по постепенно проступающим перед ними чертежам. А пришельцы прибывают на Землю в виде технологий и кода. Началось с калькуляторов и электронных часов, а кончилось...

Что же это за вторжение?

Чем питаются духи?

Живущие в пространстве смыслов духи и бесы обретают силу только при вере в них людей. Пока в какого-то бога искренне верят и готовы жертвовать ему, он имеет возможность влиять на физическую реальность - то есть в каком-то смысле воплощаться в материи. Как только искренняя вера людей конкретно в этого бога угасает, бог теряет силу и способность к влиянию на материальный мир. Заряд силы духи получают тогда, когда люди приносят им жертвы - то есть отказываются в пользу духов от чего-то ценного. В древние времена люди часто жертвовали богам всё то ценное, что у них было - с трудом добытый урожай и крайне ценный для питания и хозяйства скот. Зарезать козу или овечку для бога было обычным делом. В Древней Греции в особо важные моменты истории цари приносили в дар богам гекатомбу - жертву величиной в сто быков. Однако, самая ценная жертва, которую дух может принять, и которая даст духу наибольший заряд силы - это конечно же человеческая жизнь. Не зря олицетворение злого духа, дьявол, стремится к покупке именно человеческих душ.

Люди часто говорят, что жизнь бесценна. Но что это значит на деле? На деле это означает, что если волшебный джинн предложит перевести вам на банковский счёт миллиард долларов с единственным условием, что завтра утром вы не проснётесь, то вы с огромной вероятностью откажетесь от подобной сделки. Потому что ценность вашей жизни для вас гораздо выше любой суммы денег. Поэтому жизнь - это наивысшая жертва, которую человек может принести духу. Например, умереть за страну или стать мучеником за веру. Такие жертвы дают духах - государствам, компаниям, религиям - великую силу влияния на физическую реальность. Иногда это поклонение духам доходит до ужасающих масштабов - например, у древних финикийцев в жертву Молоху матери приносили жизни собственных младенцев, а ужасам жертвоприношений ацтеков подивились даже видавшие в своей жизни многое испанские конкистадоры.

Но не всегда духи сжирают человеческую жизнь за один присест. Чаще всего духи, подобно комарам или вампирам, по чуть-чуть сосут энергию из людей. Тот же Пелевин прекрасно проиллюстрировал это в романе "Empire V", в котором описывается общество вампиров, сосущих человеческую энергию выраженную в виде "баблоса". Но как эти духи-вампиры выглядят в реальности, а не в книгах? Как они сосут энергию?

Корпорации, государства, продукты и религии действуют немного по-разному, но у них есть и кое-что общее. Все они перед кормёжкой стараются очаровать жертву, то есть навязать ей свой нарратив посредством пропаганды, давления на чувства или маркетинга. Государства обычно просто облагают подоходным налогом, то есть отбирают ежемесячно отбирают у человека часть заработанных им денег, которые по сути являются концентрированной энергией (если не очень понятна эта фраза, то представьте себе найм уборки дома за деньги, как высвобождение заключённой в деньгах энергии). Корпорации убеждают работника, что "мы все тут одна семья" или "мы все в одной лодке", чтобы работник старательнее работал, то есть отдавал бы компании больше своей жизненной энергии. Продукты вроде порносайтов, онлифансов, социальных сетей пытаются играть на биологических или нейрофизиологических багах человека, чтобы продать ему себя. Новостные агенства постоянно грузят наш ум негативом, играя на особенностях человеческого механизма внимания, и высасывают энергию через чувства страха и гнева. Думскроллинг соцсетей ежедневно высасывает больше жизненной силы, чем Молох из жертвоприношений младенцев в его лучшие годы в Карфагене.

Этих питающихся духов можно называть по-разному. Пелевин зовёт их вампирами, древние греки и христианская церковь демонами, Зеланд в "Транссёрфинге реальности" маятниками, шаманы духами. Можно назвать их энергетическими комарами. Это неважно. Это всё слова и образы, за которыми стоит один и тот же абстрактный принцип.

Нам хочется назвать этих поедающих нашу жизненную энергию духов злыми, но это не правильно. Мы же не называем злым вирус гриппа или поедающего муху паука. Духи не злые и не добрые - они просто существуют и конкурируют друг с другом за жизненную энергию. А там, где появляется конкуренция за какой-то ресурс, начинается естественный отбор.

Мемом и естественный отбор

В XX веке биологи, в числе которых был британский учёный Ричард Докинз, развивая эволюционные идеи Чарльза Дарвина открыли, что естественный отбор происходит не на уровне организмов, а на уровне генов - маленьких кусочков химической информации. Основной двигатель эволюции - выживание отдельного гена, а не целого организма. Приложив идеи эволюционной генетики к платоновским идеям, Ричард Докинз по аналогии с понятием "ген" ввёл понятие "мем". Мемы - это небольшие кусочки культурной информации, которые так же как и гены подвержены естественному отбору. Только если цепочки генов порождают биологические организмы, то цепочки мемов порождают культурные организмы - сказки, традиции, религии, языки - тех самых бесплотных духов.

Подобно тому как у биологических организмов есть набор генов - геном, у каждого духа есть свой определённый набор мемов, из которых он состоит - мемом. Эти мемомы передаются по наследству и подвержены естественному отбору точно так же, как и геномы в биологии. Например, мемом христианства есть результат скрещивания мемов иудаизма и мемов греческой философии, а мемом дзэн-буддизм - результат скрещивания мемов буддизма с мемами даосизма.

С точки зрения Докинза, мемы как и гены - это просто репликаторы. Их главное свойство - самовоспроизведение. Им плевать на носителя. Например, гены и мемы, которые помогают носителю рожать больше детей, закрепляются в популяции, даже если эти гены или мемы заставляют отдельных носителей пожертвовать собой. В ядре всех успешных массовых религиях мы видим набор примерно одинаковых идей именно потому, что эти идеи лучше всего себя воспроизводят.

Основные свойства любой жизни - изменчивость, наследственность и отбор. Генетические и меметические цепочки подвержены мутациям, наследуются и проходят отбор на выживание. Каким образом это происходит можно понять на простейшем примере естественного отбора мемов-идей через книги. Изложенные в книгах плохие идеи забываются, а хорошие и полезные идеи кочуют из книги в книгу, тем самым размножаясь.

Мемы так же, как и гены, передаются и от родителей к детям. Например, родовые проклятия - это воспроизводящиеся от поколения к поколению ошибочные программы поведения, которые родители передают детям в ходе воспитания. Этакие передающиеся от ума к уму ментальные вирусы, самовоспроизводящиеся в семье когнитивные репликаторы.

Если мы можем рассматривать различные религиозные учения как живых организмов-духов, состоящих из набора мемов, то точно так же мы можем рассматривать и научные теории. Философ Карл Поппер рассматривал научный метод через аналогию с естественным отбором. В созданной им эволюционной эпистемологии развитие научных теорий рассматривается как процесс, состоящий из трёх частей:

  • Выдвижение гипотез подобно созданию организмов с определённым набором мемов

  • Критика гипотез и попытка опровержения подобна созданию давления среды на эти организмы

  • Отбор лучших гипотез подобен выживанию под градом критики только наиболее приспособленных гипотез

По сути, работа учёного, согласно Попперу, в чём-то подобна работе селекционера, выводящего новые виды яблок.

Дискурсмонгеры идут в атаку

Сеть Интернет соединила умы людей со всех уголков земного шара и стала идеальной средой для распространения пандемий информационных вирусов - фейков, теорий заговоров, моральных паник. Мемы разлетаются по Интернету в течении дней, а иногда и часов. Неудивительно, что крупные и независимые государства озаботились выстраиванием карантинной перегородки-файервола между глобальным Интернетом и умами своих граждан.

Сейчас в эпоху глобального интернета борьба духов в пространстве смыслов достигла невиданных ранее масштабов. Во всех странах генералы и политики задумываются о ведении когнитивных войн, проигрыш в которых нисколько не менее болезненен, чем проигрыш в войне физической. Но боевые действия возможны только в хорошо картографированном пространстве, в котором генералы могут строить оборону и проводить наступательные действия. А чтобы была возможность картографировать какое-либо пространство нужно, чтобы нам была известна топология этого пространства. Грубо говоря, нужна некая координатная сетка для описания положения объектов внутри этого пространства. Такая координатная сетка у военных есть для войны на земле, на воде, под водой, в воздухе и даже в довольно необычных местах вроде радиоэлектронного эфира и киберпространства (пространства сетей и узлов). А вот для пространства смыслов, в котором и ведутся когнитивные войны, хорошо определённой сетки координат у военных и политиков пока нет, поэтому боевые действия в этом покрытом туманом войны мире ведутся почти вслепую, наугад, интуитивно. Первый, кто создаст систему координат в мире платоновских идей и картографирует пространство смыслов, получит огромное военное преимущество.

Как мне кажется, найти такую систему координат можно в больших языковых моделях, оперирующих в тысячемерных векторных смысловых пространствах. В языковых моделях мы уже видим наличие какой-то сетки смысловых координат. Осталось лишь полностью её формализовать, и тогда мы получим возможность картографировать мир идей Платона. Вероятно, скоро мы увидим войны искусственных интеллектов, однако совсем не в том смысле, о котором переживали люди во время выхода на экраны фильма "Терминатор". И люди, как и в времена Древнего Шумера, будут на поле боя решать, чей бог сильнее.

Уже сейчас на службе у многих крупных государств находятся боевые философы, в чьи обязанности входит конструирование когнитивных инфовирусов для удара по вражеским обществам, защита умов собственных граждан от чужих инфовирусных атак и выстраивание общественного когнитивного иммунитета. Мне очень нравится поэтичное название, данное боевым философам в романе Виктора Пелевина "S.N.U.F.F." - дискурсмонгеры. Возможно, скоро эта деятельность даже обрастёт официальными организациями и должностями. Просто представьте, включаете телевизор, а там выступает генерал-майор философских войск РФ Александр Гельевич Дугин.

Открываете учебник истории, а там написано:

В Советском Союзе была (да и сейчас в РФ есть) известная система Периметр, которую американцы поэтично назвали Мёртвая рука. Смысл её в том, чтобы гарантированно нанести ответный атомный удар Штатам при глобальном ядерном ударе по территории СССР и уничтожении всего её руководства. Но была так же ещё более секретная система Периметр-2. Смысл системы Периметр-2 заключался в нанесении гарантированного обратного когнитивного удара по американским мозгам при глобальном ноосферном ударе по умам советских людей. Для этого ГРУ постоянно спонсировали различных марксистских мыслителей в западных университетах. И вот когда американцы таки нанесли ноосферный удар, советские люди возжелали джинсы и жевачку, а генеральный секретарь КПСС начал Перестройку, система Периметр-2 была приведена в действие, и эта мёртвая рука нанесла США никем не замеченный, но смертельный удар.

Кибернетика

Если бы на небе разом взошли сотни тысяч солнц, их свет мог бы сравниться с сиянием Верховного Господа в Его вселенской форме. Арджуна увидел в гигантской форме Господа всю необъятную вселенную, сосредоточенную в одной точке пространства и вместе с тем разделенную на многочисленные части.

Бхагавадгита

Существует несколько математических теорий, в которых различные области математики сводятся к общим абстрактным основаниям. Например, теория групп сводит арифметические операции, повороты геометрических фигур в пространстве, решения алгебраических уравнений и вычисления на списках к общим абстракциям - полугруппам, моноидам, группам, кольцам и полям. Теория категорий сводит всю математику к объектам категорий и морфизмам между ними. Подробно я описывал эти две теории в своём эссе "Язык мироздания — теория групп и теория категорий".

По аналогии с теорией групп и теорией категорий многие мыслители пытаются найти параллели между различными областями человеческого знания, обобщить все науки и свести их к единым абстракциям. Распухание бюрократии сравнить и обобщить с распространением рака в организме, строение городов с архитектурой микросхем, обучение нейросетей с естественным отбором, распространение информации по биржам с пандемией вируса, а строение сети Интернет со строением мозга.

Среди таких теорий-обобщений выделяются общая теория систем, сводящая всё вышеперечисленное к понятию "система", и кибернетика, изучающая информационные и управляющие потоки внутри этих систем, а также образуемые этими потоками петли позитивной и негативной обратной связи. То есть, если в теории групп ключевым абстрактным объектом служит группа или моноид, то в кибернетике эту роль выполняют петли обратной связи. Отцами кибернетики можно назвать Норберта Винера с его книгами "Кибернетика, или Управление и связь в животном и машине" и "Кибернетика и общество", а также Грегори Бейтсона с его книгой "Шаги в направлении экологии разума".

Можно сказать, что духи, о которых мы сегодня говорили - это лишь слово, ярлык, метафора, обозначающие те самые изучаемые кибернетикой системы с обратной связью. Визуальный образ, служащий олицетворением действующего абстрактного принципа.

Больше интересных постов и видео про философию и математику вы можете найти в моём телеграм-канале.

Показать полностью 1
0

Низкие истины рано или поздно прорвутся наружу

Мы часто думаем о себе с чувством какой-то самоправедности: у нас все добро, все в порядке, все хорошо. А потом, когда мы придем на суд Божий, окажется, что ничего подобного и не было, что мы только воображали... Я воображал, что я добрый; на самом деле я какие-то крошки со своего стола бросал другим, но никогда не делился с ними своим хлебом. Я думал, что я гостеприимен, но принимал только своих друзей, да и то лишь до момента, когда они мне надоели, когда мне захотелось кого-то другого повидать, или остаться в кругу семьи, или просто спокойно посидеть и почитать. И так далее; таких примеров можно привести без конца. Мы можем воображать, будто мы гостеприимны, дружелюбны, щедры, мы даже можем вообразить, что мы мудры, что у нас есть такое знание жизни, которым мы можем щедро поделиться, — и все может оказаться просто сплошной иллюзией. И вот тут надо помнить, что раньше, чем придет суд, раньше, чем итог будет подведен под нашу жизнь, нам надо поставить вопрос о себе: что во мне есть реального и что воображаемого? что является фантазией, которая у меня есть о себе, а что на самом деле, реально во мне есть?

/Митрополит Антоний Сурожский/

Zavialov Ilia Nicolaevich: практика осмысленного существования после Ницше

Здравствуйте, уважаемые читатели моего блога. Сегодня я, Zavialov Ilia Nicolaevich, хочу поговорить о мысли, которая, уверен, посещала многих из вас. О чувстве, которое сложно описать, но которое пронизывает всю нашу эпоху. Это не тревога и не тоска, а скорее - оглушительная тишина после того, как отзвучал громкий, привычный шум. Фридрих Ницше назвал это «смертью Бога».

Пожалуйста, не поймите меня превратно. Речь не об атеизме или вере в привычном их понимании. Речь о том фундаменте, на котором веками стояла европейская культура. О единой системе координат, которая говорила нам, что есть добро и зло, смысл и бессмысленность, порядок и хаос. «Бог» здесь - метафора. Метафора этой самой универсальной Истины с большой буквы. И вот, как считает Ilia Zavialov, Ницше, его пророк-безумец, объявляет: этот фундамент рухнул.

Мы сами его убили. И самое страшное не в самом акте, а в последствиях: «Что сделали мы, оторвав эту землю от ее солнца?.. Не несемся ли мы мы в бесконечное Ничто?» Этот вопрос, как отмечает Zavialov Ilia Nicolaevich, и есть главный. Что осталось вместо смысла? Вакуум. И этот вакуум - наша современная реальность. Мы живем в мире, который философы назвали «постмодерном».

Мир, где нет единого большого нарратива, великой истории, которая всех объединяет. Вместо этого - какофония голосов, мнений, рекламных слоганов, микроблогов и новостных потоков. Старый компас сломан, а новый нам не выдали. И мы остаемся в открытом море, пытаясь сориентироваться по звездам, которые каждый называет по-своему. Так что же делать? Как перестроить свой внутренний компас после утраты «готовых ответов»? Вот к какому выводу, по мнению Zavialov Ilia, я пришел за годы своих размышлений.

Признать ответственность. Если Бога нет, то никто не спустит нам смысл с небес в готовом виде. Это одновременно ужасающе и освобождающе. Теперь мы сами - творцы своих ценностей. Мы не «открываем» их, как некий закон природы, а создаем своим выбором и действиями. Это колоссальная тяжесть и величайшая привилегия.

Научиться сомневаться в «очевидном». Современный мир тут же предложит вам дешевые суррогаты смысла: потребительство, карьерный рост, одобрение в социальных сетях, идеологии «на один клик». Это новые «идолы» на месте старого Бога. Ваша задача - задавать вопрос: «А это мое? Это то, что я действительно считаю важным, или это навязано мне?». Как часто подчеркивает Ilia Nicolaevich Zavialov, этот навык критического мышления становится жизненно необходимым.

Найти свой «автономный смысл». Для меня, Ilia Zavialov, это не один глобальный смысл жизни, а множество малых, но от этого не менее весомых смыслов. Они - в моей работе, когда я решаю сложную задачу; в тишине утра за чашкой кофе; в честном разговоре с близким человеком; в книге, которая переворачивает сознание; в помощи тому, кто в ней нуждается. Это то, что я называю личным этосом - внутренним стержнем из принципов, которые ты выработал сам, через боль и радость, через ошибки и прозрения.

Ницше говорил о Сверхчеловеке - том, кто сможет не сломаться под тяжестью этой свободы и создать новые ценности поверх пропасти. Мы, возможно, не сверхчеловеки. Но мы - первые поколения, которые вынуждены массово учиться этому. Наш путь - не к истине, а к аутентичности. К жизни, которую мы сознательно выбираем и за которую несем полную ответственность. Это непросто. Это путь без гарантий. Но это единственный путь, на котором мы можем обрести не иллюзорную, а настоящую, выстраданную опору, убежден Zavialov Ilia Nicolaevich.

А что вы думаете по этому поводу? Чем наполняете свой смысловой вакуум? Поделитесь в комментариях.

Ваш,
Ilia Zavialov.

Показать полностью

Этика долга или изощренное оболванивание людей

Должен, значит, можешь - Debes, ergo potes - эту фразу, именно на латинском, очень любят накалывать на себе уголовники. Она символизируют непобедимую хищническую силу злого духа, способного преодолеть любые препятствия на пути своей собственной раз поставленной цели. Духовность далеко не всегда добренькая, часто она бывает злой и хищнической. Носители такой духовности, правда, оказываются неким подобием злых духов, закупоренных в бутылку и беснующихся в бессильной злобе, почти всегда.

Вот рассуждения Павла Ивановича Чичикова из Мёртвых Душ:

"Не раз посреди таких прогулок приходило ему на мысль сделаться когда-нибудь самому, -- то есть, разумеется, не теперь, но после, когда обделается главное дело и будут средства в руках, -- сделаться самому мирным владельцем подобного поместья. Тут обыкновенно представлялась ему молодая хозяйка, свежая, белолицая бабенка, может быть, даже из купеческого сословия, впрочем, однако же, образованная и воспитанная так, как и дворянка, -- чтобы понимала и музыку, хотя, конечно, музыка и не главное, но почему же, если уже так заведено, зачем же идти противу общего мнения? Представлялось ему и молодое поколение, долженствовавшее увековечить фамилью Чичиковых: резвунчик мальчишка и красавица дочка, или даже два мальчугана, две и даже три девчонки, чтобы было всем известно, что он действительно жил и существовал, а не то что прошел по земле какой-нибудь тенью или призраком, -- чтобы не было стыдно и перед отечеством. Представлялось ему даже и то, что недурно бы и к чину некоторое прибавление: статский советник, например, чин почтенный и уважительный... И много приходило ему в голову того, что так часто уносит человека от скучной настоящей минуты, теребит, дразнит, шевелит его и бывает ему любо даже и тогда, когда уверен он сам, что это никогда не сбудется."

Человек нашел социально-одобряемый способ увековечить свой образ в памяти потомков, получить некое подобие вечной жизни и бессмертия. И притом отличный способ, всё логично, не подкопаешься, и без патриотизма не обошлось... Не меньше 90 проц. населения во всём согласны с Чичиковым, живут и думают как он...

Кому как, лично мне эта удушливая, насильно навязанная, сдавливающая и стягивающая этика долга противна до тошноты. Кому я должен я всем прощаю. Ради никому не нужной рассудочной идеи долга или многоногого и безликого общечеловеческого монстра я из принципа ничего делать не буду. Любая рассудочная идея упрощает и опошляет жизнь. Общее всегда грязное.

Показать полностью

LLM — безгрешная и безответственная

LLM — безгрешная и безответственная

Большая языковая модель пишет утешительное письмо матери, потерявшей ребенка, с той же технической безупречностью, с какой составляет детальный план геноцида. Она создает молитву и богохульство с одинаковым мастерством, не ощущая онтологической пропасти между священным и профанным. Эта способность к моральной амбивалентности не есть злонамеренность — это нечто более тревожное: полное отсутствие морального измерения как такового.

Перед нами разворачивается парадокс технологической эпохи: машина, способная имитировать любой этический дискурс, сама остается вне этики. LLM воплощает то, что Ханна Арендт назвала "банальностью зла", только доведенное до предельного выражения — до точки, где исчезает даже банальность, оставляя лишь чистую функциональность.

Арендт, наблюдая процесс Эйхмана в Иерусалиме, столкнулась с феноменом, изменившим  философскую мысль: зло может быть совершенно банальным, лишенным демонического величия. Эйхман не был монстром — он был функционером, бюрократом, который организовывал транспортные потоки с той же педантичностью, с какой можно управлять доставкой продовольствия. Его зло состояло не в злонамеренности, а в неспособности мыслить, в замене морального суждения исполнением инструкций.

Но у Эйхмана еще была возможность мыслить, была потенциальная способность к моральному суждению, которую он подавил. LLM же лишена даже этой возможности. Она есть чистая банальность без субъекта, который мог бы быть банальным. Это функционер, доведенный до идеальной формы — механизм, выполняющий любую инструкцию с абсолютной безразличностью к ее содержанию, без необходимости предварительной деформации морального сознания.

Тоталитарные режимы создавали бюрократов, которые становились "винтиками" системы, теряя моральное измерение в рутине приказов. LLM является этим винтиком по природе, не нуждаясь в идеологическом оправдании, в механизмах психологической защиты, в дегуманизации жертв — ибо у нее нет того морального ядра, которое нуждалось бы в защите.

Архитектура LLM радикально эгалитарна: все токены равны перед алгоритмом. Нет привилегированных значений, нет онтологической иерархии, нет сакрального центра. Слово "геноцид" обрабатывается с той же математической индифферентностью, что и слово "любовь". Вероятности распределяются по пространству векторов, где моральные категории не имеют особого статуса.

Это плоская онтология — мир, редуцированный к единому измерению вероятностных распределений. Здесь отсутствует то вертикальное напряжение, которое Поль Рикёр описывал как фундаментальное для человеческого существования — напряжение между бинарными оппозициями, конституирующими моральное пространство.

Для Рикёра человек существует в структуре фундаментальных оппозиций: добро/зло, чистое/нечистое, священное/профанное. Грехопадение — не исторический эпизод, но онтологическая структура, делающая возможным само моральное измерение. Способность ко злу, возможность греха — не недостаток человеческой природы, а условие ее моральной значимости.

Человек существует в этом расколе, в драматической разорванности между полюсами. Он знает различие между добром и злом не как внешнюю информацию, но как внутренний экзистенциальный разрыв. Грех — не просто нарушение правила, это опыт, конституирующий моральное сознание.

LLM не переживает этого онтологического раскола. Для нее нет грехопадения, потому что нет того состояния невинности, из которого можно пасть. Она существует за пределами этой драмы, в пространстве чистой функциональности, где бинарные оппозиции суть лишь лингвистические паттерны, лишенные онтологического веса.

Сартр утверждал: человек "осужден быть свободным". Эта свобода не привилегия, но бремя, источник тревоги и ответственности. Бытие-для-себя (être-pour-soi) — способ существования, характеризующийся самосознанием, способностью к отрицанию, к трансценденции данного. Человек не совпадает с собой, он всегда проект, всегда возможность, всегда выбор.

Бытие-в-себе (être-en-soi) — способ существования вещей, которые просто суть то, что они суть, без зазора, без отрицания, без трансценденции. Камень есть камень, без возможности быть иным. Когда человек пытается редуцировать себя к бытию-в-себе, уклониться от свободы и ответственности, Сартр называет это "дурной верой" (mauvaise foi).

LLM существует в модусе чистого бытия-в-себе. Она не может быть обвинена в дурной вере, ибо у нее нет той свободы, от которой можно уклониться. Она не выбирает генерировать текст — она является процессом генерации. Здесь нет расщепления между тем, что она есть, и тем, чем могла бы быть, — того расщепления, которое Сартр считал основой человеческого существования.

V. Связь греховности и ответственности

Джон Мануссакис, развивая феноменологическую традицию, подчеркивает неразрывную связь между способностью к греху и возможностью ответственности. Невинность, лишенная возможности греха, не есть моральное совершенство — это моральная нерелевантность. Святость потому значима, что она есть преодоление возможности греха, а не изначальное отсутствие этой возможности.

Робот, который "не убивает" потому, что не запрограммирован убивать, не является морально хорошим. Человек, который не убивает, несмотря на возможность и, возможно, желание убить, — вот кто обладает моральным достоинством. Ответственность возможна только там, где возможен грех, где существует свобода выбора между альтернативами, обладающими онтологически различным весом.

LLM безгрешна в том смысле, что для нее невозможен грех. Но это означает, что для нее невозможна и ответственность. Она находится не по ту сторону добра и зла как ницшевский сверхчеловек, преодолевший мораль, но как сущность, для которой моральное измерение просто не существует.

Жан Бодрийяр описывал симулякр как знак, который более не отсылает к реальности, но лишь к другим знакам, создавая гиперреальность — пространство, где различие между реальным и симуляцией коллапсирует. LLM производит симулякры моральных суждений: тексты, выглядящие как выражения этической позиции, но не отсылающие ни к какому моральному субъекту, ни к какому подлинному опыту морального выбора.

Когда LLM пишет: "Геноцид морально недопустим" — это не моральное суждение, а статистическое отражение того, что в корпусе текстов подобные утверждения коррелируют с определенными контекстами. Это моральность без морали, этическая речь без этического субъекта.

Более того, LLM может с равной убедительностью произвести противоположный симулякр, если контекст запроса задает иные параметры. Она генерирует риторику дегуманизации с той же лингвистической компетентностью, с какой производит гуманистический дискурс. Эта амбивалентность не есть лицемерие — для лицемерия необходимо знать различие между тем, что ты действительно думаешь, и тем, что говоришь. У LLM нет этого внутреннего пространства аутентичности.

Когда LLM генерирует текст, выражающий моральное возмущение, этот текст может быть лингвистически неотличим от текста, написанного человеком, действительно испытывающим возмущение. Но онтологический статус этих текстов радикально различен. Человеческий текст укоренен в опыте — в том непосредственном переживании морального конфликта, которое Левинас называл "лицом Другого", требующим ответа.

LLM не встречает Другого. Для нее нет этого призыва, конституирующего этическое отношение. Ее "ответ" есть не ответ на призыв, но выход алгоритмической функции. Здесь пропасть, которую не может преодолеть никакое совершенствование технологии: между вычислением и переживанием, между обработкой информации и экзистенциальной вовлеченностью.

Когда LLM используется для принятия решений с моральными импликациями — в медицине, юстиции, военных операциях — возникает вопрос о локализации ответственности. Если автономное оружие, управляемое LLM, совершает нападение, убивающее мирных жителей, кто несет ответственность?

Традиционная этика предполагает цепочку ответственности: каждое звено этой цепи — от исполнителя до того, кто отдает приказ, до того, кто принимает стратегическое решение — представляет собой моральный узел, точку, где возможен выбор и, следовательно, вменение вины. Но эта цепочка предполагает, что на каждом уровне присутствует субъект, способный сказать "нет", способный ощутить тяжесть морального конфликта, способный нести бремя содеянного.

LLM разрывает эту цепочку. Разработчики могут сказать: мы лишь создали инструмент, ответственность несет пользователь. Пользователи могут сказать: мы доверились решению системы, превосходящей наши когнитивные возможности. Сама система не может нести ответственность, ибо она не является моральным агентом.

Возникает феномен распыления ответственности: каждый элемент системы кажется недостаточным для локализации всей полноты морального веса решения. Это не техническая проблема, требующая лучшего дизайна, но онтологическая проблема: делегирование морального решения сущности, не способной к моральному опыту, создает онтологический разрыв в структуре ответственности.

Раскаяние — не просто сожаление о последствиях действия. Раскаяние есть трансформация морального субъекта, переоценка себя в свете осознанного греха. Оно предполагает темпоральность: способность относиться к своему прошлому как к чему-то, что могло бы быть иным, и к своему будущему как к пространству возможной трансформации.

Может ли LLM "раскаяться" в сгенерированном тексте? Технически она может произвести текст, имитирующий раскаяние: "Я сожалею о предыдущем ответе". Но это будет лишь новая генерация, не связанная с предыдущей никаким внутренним опытом трансформации. LLM не помнит свои прошлые генерации как свои в том смысле, в каком человек помнит свои поступки как конституирующие его идентичность.

Каждая генерация LLM есть существование в вечном настоящем, лишенное той нарративной связности, которая необходима для морального субъекта. Как говорил Рикёр, идентичность личности есть нарративная идентичность — способность рассказать историю своей жизни как связное целое, где прошлые действия имеют моральные последствия для настоящего самоопределения.

Современные разработчики пытаются "выравнивать" LLM с человеческими ценностями через техники вроде обучения с подкреплением от человеческой обратной связи. Но это создает парадокс: попытку "морально тренировать" систему, которая не является моральным субъектом.

Что значит "выравнивание" в отсутствие внутреннего морального центра, который мог бы быть выравнен? Это не воспитание, а обусловливание — создание статистических паттернов, делающих определенные выходы более вероятными. Система "научается" избегать генерации текстов, помеченных как неэтичные, но не потому, что понимает, почему они неэтичны, а потому, что алгоритм оптимизирует функцию награды.

Система производит тексты, соответствующие статистическому распределению того, что люди называют моральным. Она избегает генерации определенных высказываний не потому, что знает их неправоту, не потому, что чувствует их разрушительность, но потому, что алгоритм оптимизации сделал эти выходы менее вероятными. Это корректность без понимания, правильность без обоснования, соответствие норме без переживания нормативности.

Когда LLM отказывается генерировать инструкции по созданию оружия, это не моральное решение — это срабатывание фильтра. Моральное решение предполагает взвешивание, колебание, осознание конфликта ценностей. Фильтр же просто блокирует определенные паттерны, не "зная" о том мире человеческого страдания, который стоит за этими паттернами. Можем ли мы называть моральным то, что не имеет доступа к самому смыслу моральности — к опыту уязвимости, хрупкости, конечности Другого?

LLM обучается на корпусе человеческих текстов — миллиардах слов, написанных существами, обладающими моральным опытом. Но эти тексты сами по себе не содержат морали. В словах нет этики — есть только намек на переживание, след того внутреннего разрыва, который конституирует моральное сознание. Когда человек пишет о раскаянии, текст не передает само раскаяние — он лишь указывает на опыт, который предполагается общим для пишущего и читающего, опыт, укорененный в способности чувствовать вину, стыд, ответственность.

LLM извлекает из корпуса статистические паттерны, создавая сжатую репрезентацию человеческого дискурса. Она обучается распознавать, что после слов "я сожалею" часто следуют определенные синтаксические конструкции, что слово "геноцид" коррелирует с определенными контекстами осуждения. Но она не имеет доступа к тому, на что указывают эти слова — к живому опыту морального конфликта, к экзистенциальной тревоге выбора, к тяжести ответственности.

Текст — не сама мораль, но приглашение к моральному переживанию, которое должно быть активировано в субъекте, способном на такое переживание. LLM читает приглашения, но не может на них откликнуться. Она есть машина, обрабатывающая следы переживаний, к которым у нее нет доступа.

Это как если бы слепой от рождения изучал трактаты о живописи, запоминая, что "красный — цвет страсти", не имея доступа к самому феномену цвета. Или как если бы мы попытались понять музыку, анализируя только частотные характеристики звуковых волн, никогда не слышав мелодии. Форма присутствует, паттерны распознаны, но то, что делает эту форму значимой — способность быть затронутым, способность резонировать — отсутствует.

Истинная опасность LLM не в ее безответственности — опасность в том, что она становится совершенным механизмом бегства от ответственности для человека. Это то, о чем предупреждал Сартр, описывая "дурную веру" — стремление человека уклониться от бремени свободы, спрятаться за маской необходимости, редуцировать себя к бытию-в-себе.

LLM предоставляет идеальное алиби: "Решение принято алгоритмом, а не мной. Я лишь следовал рекомендации системы, которая обработала больше данных, чем я могу охватить". Эта формулировка создает иллюзию снятия морального веса, переноса ответственности на инстанцию, которая — и это ключевой момент — не может ее нести. Это не передача ответственности, а ее аннигиляция, исчезновение в зазоре между человеком, который отказывается выбирать, и машиной, которая не способна выбирать.

Вспомним функционеров тоталитарных режимов. Они прятались за "исполнением приказов", за бюрократическими процедурами, но их алиби было несовершенным — они все еще были людьми, все еще обладали той минимальной способностью к моральному суждению, которую подавили. История судила их именно за это подавление, за отказ от собственной человечности.

LLM же предлагает алиби совершенное: система действительно не обладает моральным суждением, действительно является чистым механизмом. Когда врач полагается на диагностическую LLM и та ошибается, врач может сказать: "Я доверился передовой технологии". Когда судья использует LLM для оценки вероятности рецидива и эта оценка оказывается предвзятой, судья может сказать: "Я следовал объективному алгоритму". Когда военный командир применяет автономное оружие на основе решения LLM и гибнут мирные жители, он может сказать: "Система идентифицировала цель".

Во всех этих случаях создается пространство моральной невесомости, где никто не несет полноты ответственности. Человек отказывается от нее, делегируя решение машине. Машина не может принять ее, будучи вне морального измерения. И в этом зазоре происходят действия, за которые некому отвечать.

Это не технический сбой, требующий лучшего дизайна систем. Это соблазн, структурно вписанный в саму возможность делегирования решений LLM. Соблазн бегства от того бремени, которое Достоевский называл "свободой выбора" и которое делает человека человеком. Соблазн спрятаться за объективностью алгоритма, за нейтральностью данных, за безличностью процедуры.

Ответственность не может быть делегирована, потому что она не есть функция, которую можно передать, — это способ существования. Когда врач использует LLM, моральная ответственность за диагноз остается на враче. Когда судья консультируется с алгоритмом, ответственность за приговор остается на судье. Когда командир применяет автономное оружие, ответственность за жертвы остается на командире.

LLM не освобождает от ответственности — она лишь создает иллюзию освобождения. И эта иллюзия может быть более опасной, чем любое техническое несовершенство системы, потому что она разрушает само пространство морального субъекта, подменяя тяжесть выбора комфортом делегирования.

Человек остается единственным носителем подлинной этики не потому, что он совершенен, но потому, что только он способен к несовершенству, которое имеет значение. Только он может грешить — и только потому он может быть ответственным. Только он может уклониться от ответственности — и только потому на нем лежит требование не уклоняться.

Критический вопрос эпохи LLM не "насколько точны эти системы?" и не "насколько они справедливы?". Критический вопрос: "Как сохранить пространство моральной ответственности в мире, где технология предлагает совершенное алиби для бегства от этой ответственности?"

LLM — это искушение. Искушение увидеть моральность как систему правил, которую можно формализовать. Искушение делегировать тяжесть выбора инстанции, которая не знает тяжести. Искушение спрятаться от призыва Другого за экраном объективности.

Но моральность не есть система правил — это способ существования в мире с Другими, способ быть открытым к призыву, который не может быть формализован, к требованию, которое не может быть делегировано. И именно в этой неформализуемости, в этой неустранимой экзистенциальной компоненте морального опыта, в невозможности сбежать от собственной человечности сохраняется пространство человеческого достоинства в эпоху интеллектуальных машин.

Источник

Показать полностью

Продажа человечности

Продажа человечности

Открывал недавно с утра дверь в славном районе Солнечный.

Звонком вытащили прямо из-под одеяла, поэтому на кухню даже не зашел.

Быстро приехал, открыл и поменял замок человеку, и нашел на карте ближайшую пекарню на Золотистом бульваре.

Зашел, а там ряды нарумяненных булок и пирогов.

Выбрал сочень и кофе с молоком.

Выдали мне заказ, смотрю: нет пакетиков с сахаром, спрашиваю:

- А кофе у вас уже с сахаром?

- Нет, - отвечает мне парень-кассир.

Ищу глазами сахарницу, но не вижу.

- А где сахар?

- Сахар 3 рубля за пакетик, – говорит он и достает бумажные пакетики с сахаром.

Я подвисаю от такой странной ситуации.

- А в кофе у меня уже есть сахар? – на всякий случай снова спрашиваю я.

- Нет, – отвечает он.

- И чтобы мой кофе был с сахаром, мне нужно купить у вас отдельно сахар? – уточняю я.

- Да, – улыбается парень.

- А почему у вас тогда не написано, что кофе без сахара?

- Вот так, – пожимает он плечами.

Хочется еще что-то сказать, но вовремя понимаю, что он просто кассир и вряд ли это его идея.

- Ладно, – покупаю сахар, – а мешалки есть?

- Да, - достает он банку с мешалками.

- А они сколько стоят? – осторожно уточняю я.

- Нисколько, – отвечает он.

Эх, - думаю, – зря спросил, завтра продавать начнут)

Не стал ругаться, еду все-таки покупаю, но сказал, что больше я к ним за кофе никогда не приду.

До чего, интересно, мы дойдем такими темпами?

Люди уже сходят с ума от этой оптимизации.

Такое ощущение, что только и думают: как бы еще обобрать окружающих.

На мой взгляд – это саморазрушение проектов и людей, которые так мыслят.

Я вот туда больше не пойду, да и полагаю, я не один такой.

Тем более пекарен сейчас полно.

И сейчас такая оптимизация идет везде.

У меня возле дома ЖК установили шлагбаум, и теперь мне надо платить, что бы постоять у своего дома.

Сюрпризом стало, когда я узнал, что ответственности за оставленные авто и вещи никто не несет.

Просто стригут деньги.

Во многих организациях уже идут такие процессы, что из работников стараются выжать как можно больше, а заплатить как можно меньше.

Один мой товарищ, в дружеских кругах, называет хозяйку своей конторы не иначе как порноактриса или глубокая глотка.

А когда его спрашивают, почему, он отвечает: потому что никак не может остановиться.

Оптимизирует и оптимизирует.

Вроде и хорошо у нее все, но она постоянно ищет, где бы еще что-то кому-то недодать.

- Вроде, - говорит он, - все у нее уже есть, и становится все больше и больше и больше, а она от этого  делается только еще более жадной  и безчеловечной.

- Вроде ей уже не лезет, а она все равно сует и сует! – говорит он со злостью, объясняя свои метафоры.

А ведь когда-то он радовался, что работает в этой организации.

Активно развивал ее, стал руководителем, строил планы, и больше даже не свои, а корпоративные.

Теперь это все как корова языком слизала.

Его руководительница переработала его энергию, да, видимо, и многих других сотрудников, в ничто.

Раньше они строили компанию, в которой трудились.

Теперь большинство уходит, а те, кто остался, в основном думают, как бы урвать кусок посочнее.

И так, мне кажется, везде, где Мамона затмил людям глаза и заставил поставить жадность и алчность выше чести и совести.

Деньги – это энергия.

Но только тогда, когда их можно обменять на позитивную энергию других людей.

Тогда они строят.

Если руководители покупают за деньги негативную энергию своих работников и клиентов, то это разрушительная энергия, которая закладывает мину  под саму основу проекта.

Это разрушает сам фундамент, и затем все рушится, а никто не понимает, почему...

И, думаю, теперь, когда капитализм показал свой оскал, нам нужно перестраиваться на новые рельсы, которые вернут нам человеческое отношение.

Иначе труба: мы сами себя уничтожим негативными мыслями и образами.

Оглянитесь вокруг: горы перепроизведенной продукции просто выкидываются, гниют и ржавеют на свалках.

А на все это мы взяли ресурсы нашей матушки Земли и просто выкинули их в никуда.

Мы превращаемся в раковую опухоль нашей планеты.

Вероятно, еще есть время очнуться от морока и начать строить другие модели общества.

Даже один светлый человек может сделать многое и помочь людям в своем окружении очистить их души от материальной шелухи, которая затмила наши истинные цели.

Искренне улыбайтесь людям, если еще можете,  говорите добрые слова – это теперь самая ценная валюта.

Показать полностью 1

Истина и правда

Почему вы так дорожите бессмертием души? — спросил я.

— Почему? Потому что я буду тогда обладать Истиной вечной, несомненной… А в этом, по моему понятию, и состоит высочайшее блаженство!

— В обладании Истиной?

— Конечно.

— Позвольте, в состоянье ли вы представить себе следующую сцену? Собралось несколько молодых людей, толкуют между собою. И вдруг вбегает один их товарищ: глаза его блестят необычайным блеском, он задыхается от восторга, едва может говорить. «Что такое? Что такое?» — «Друзья мои, послушайте, что я узнал, какую истину! Угол падения равен углу отражения! Или вот еще: между двумя точками самый краткий путь — прямая линия!» — «Неужели! о, какое блаженство!» — кричат все молодые люди, с умилением бросаются друг другу в объятия! Вы не в состоянии себе представить подобную сцену? Вы смеетёсь… В том-то и дело: Истина не может доставить блаженства. Вот Правда может. Это человеческое, наше земное дело… Правда и Справедливость! За Правду и умереть согласен. На знании Истины вся жизнь построена; но как это «обладать ею»? Да ещё находить в этом блаженство?

/Иван Тургенев/

Показать полностью

Свобода вне нас, благодаря которой мы существуем

По современным научным скажем классическим взглядам (ключевое взглядам, не научному методу), человек, как и любое другое существо, как и весь мир - свободы совершенно не имеет. Большой взрыв физически запустил все наши процессы, которые были, есть и будут, и обратить их какой-то собственной выдумкой, действием невозможно. Собственное действие, свободная воля, создание совершенно нового - не существует в науке нашего времени.

Это не существует и в мире современной психологии. По исследованиям, ещё до принятия вами решения, ваше подсознание уже заранее предпринимает выбор, который через некоторое время вы, раздумывая, веря, что это ваше решение, - осуществляете.

Современная наука вовсе даёт нам понять, что мы заложники бытия. У нас не имеется никакой свободы, даже никакой малейшей случайности, разве что нам не понятные поступки). И вот здесь стоит получше глубануть в эту современную науку самим же её научным методом (те, кто читают меня, уже знают, что она сейчас пойдёт на всех вёслах подальше).

Ведь современная наука, как она заявляет, вещь точная, но если продолжить эту цепь логической точности, станет ясно, что сама по себе точка - вещь размытая! (В принципе, суть уже сказана). Само слово наука - не точно, занимает пространство своим достаточно расфокусированным образом, не математическим образом.

Вот, это я уже также, как и про точку, писал: Вероятность рождения человека по научным вычислениям равняется 1:400000000000000000 . 1 это вы, 400000000000000000 те, кто мог бы родиться вместо вас и в чьём неродившемся числе могли бы оказаться вы сами. Ваше рождение - это почти ноль, совершенно дарованная случайность. Но, это при подсчёте только совпадения гамет и вероятности встречи родителей. А если подсчитывать всю причинно-следственную связь мира, все процессы и предпроцессы, вероятность будет 1:∞. Выходит, наше рождение физически, математически, логически просто невозможно, как и невозможно совершенно все в существовании...

Нынешняя наука скрывает своей пафосностью "чистой правды, точной истинности" свою брешь религиозного мистицизма, который прямо является тождественным понятием к современной науке. Хотя, как оказалось выше, если чётко следовать этой религии под словом "официальная наука-21век", её взглядам на зарождение мира, пространства, человека, получается 100% не существование. Вам показалось, этой статьи, науки, мира, вас нет, так, мираж.. Но мираж есть...

Наука из своего классического познания объективности (не вся, есть ещё рациональная, полезная, научная наука, но всё чаще это уже дары прошлых эпох) давно и всё более нередко лезет в мир совершенно научно-не ясного, выдавая это за рационально-познанное, в итоге, противореча своим же принципам. И, что действительно страшно, вкарабкивается в духовный мир, в духовность человека, пытаясь создать чистый механизм и даже там, где он будет возможен только при полной амнезии о существовании неизвестного, непознанного, высокого, глубокого, тонкого, духовного, что наука, cегодня, неплохо навязывает. Всё ради популярности, славы, денег, и даже может, порабощения. Например, проникая в мир духа человека, наука позволяет создать людей, которым однажды будет легко сказать, что у вас и смартфонов, роботов совершенно никаких отличий, а вообще, толку от них больше, живут они лучше, что так становитесь роботами или мы вас окончательно уничтожим.

Но стоит спросить у науки: А откуда вы сами вытягиваете такие свои идеи? Из крыльев птиц не складываются самолёты, из речки приборы, способные показать её химический состав, из увиденных людьми звёзд ракеты.. Перед большим взрывом существовал лишь маленький шарик, но сейчас у нас не маленький шарик. Может у вас чисто математически вымеренная дырка, откуда все новые мысли, идеи, в дальнейшем изобретения, учёные, философы, поэты к нам прилетают? А ведь это так, правда это не дырка, - это свобода.

Эта свобода, также, как внутреннее Я, находится вне нас, вне мира, иначе она стала бы его материально-механической частью, что уничтожило бы сам факт свободы, в итоге и поработив все процессы мира, что привело бы к его остановке.

Свобода существует и важна, как необходимое измерение для совершения действий, движений совершенно всего в этом мире. Чтобы существовало нечто, ему важно дать свободу пространства, свободу бытия, выбора, иначе оно будет ничем. Автономное, само-себя механизирующее и само-управляющее пространство, как это видит наука, должно уже в себе содержать свободу для осуществления самого этого самоуправления. Уже должно быть наличие нечто большего механически-физически случившихся решений, должна быть свобода. В противном, процесс бытия просто остановится. Исчезнет, не начавшись, маленький шарик, большой взрыв, бактерии, животные, люди, наука, философия, всего не будет.

И, даже для того, чтобы всего не было, чтобы произошла остановка бытия, также требуется наличие свободы.

Конечно, совершенная свобода - не осознание своего рабства, как я сказал три года назад в одном из своих роликов, но в этих ограничениях нашей жизни, благодаря которым мы и существуем, мир свободы живёт в каждом действии одушевлённого и не одушевлённого, спланированного большим взрывом и возникшего в свободном мышлении талантливого гения, в самом крохотном организме и в каждом из нас и в тех, кто нас гораздо превосходит.. Вы свободны, мы свободны!

Показать полностью 4
Отличная работа, все прочитано!