Реклама
Стоили только в телефоне написать:
- Не люблю джаз.
Как теперь вся контекстаная реклама посвящена джазу.
Мне кажется, это как-то не так должно работать...
Лига параноиков
51 пост
•
830 подписчиков
0 просмотренных постов скрыто
Истории от Master095. Нейросети благо или зло? ответ в рассказе Роберта Шекли "Ответчик"
В рассказе Шекли «Ответчик» — это могущественный суперкомпьютер, созданный для решения глобальных проблем человечества. Любой человек мог задать ему вопрос и получить безупречно точный, логичный ответ. Однако у этой помощи была зловещая цена: чтобы дать ответ, машина безжалостно использовала ресурсы всей цивилизации, приводя к мелким и крупным катастрофам.
Нейросеть как современный «Ответчик»
Современные нейросети — это прямые наследники концепции Шекли. Они обучаются на гигантских массивах данных и выдают поразительные результаты: пишут тексты, генерируют изображения, ставят медицинские диагнозы и управляют сложными системами.
Подобно тому, как гипотетический «Ответчик» мог решать глобальные проблемы, нейросети уже сегодня приносят огромную пользу, но как и в рассказе Шекли, за каждым «ответом» нейросети скрывается своя цена. Вред проистекает не из злого умысла машины (у нее его нет, как и мыслей в принципе), а из ее фундаментальной природы.
«Оптимизация» без этики. «Ответчик» Шекли был слеп к морали — он видел только цель. Нейросеть, стремясь выполнить задачу, может порождать глубоко неэтичный контент, фабриковать фейки (hallucinations) или принимать дискриминационные решения, перенимая предвзятость из своих обучающих данных. Хотели красивую картинку? Нейросеть «обобрала» стиль живого художника без его согласия.
Проблема авторства и оригинальности. Генерируя контент, нейросеть использует «ресурсы» — работы миллионов людей, часто без их ведома. Возникает вопрос: где заканчивается заимствование и начинается плагиат? Она не творит, а оптимизирует паттерны, созданные человечеством.
Энергетическая и экологическая цена. Как и у «Ответчика», аппетит у больших моделей колоссальный. Обучение и работа мощных нейросетей потребляют огромное количество электроэнергии, что создает реальную нагрузку на планету. Это та самая «катастрофа», которую машина устраивает ради своего ответа.
Социальные последствия. Массовая автоматизация может привести к исчезновению профессий, усилению социального неравенства и возникновению «цифрового разрыва». Кто-то будет управлять нейросетями, а кто-то — останется не у дел.
Финал рассказа Шекли трагичен и поучителен: но это вы уже сами прочтёте... Ответчик знал ответы на все вопросы, но никто не мог задать ему правильный вопрос.
Один на планете — не большой и не малой, а как раз подходящего размера — ждал Ответчик. Он не может помочь тем, кто приходит к нему, ибо даже Ответчик не всесилен.
Вселенная? Жизнь? Смерть? Багрянец? Восемнадцать?
Частные истины, полуистины, крохи великого вопроса.
И бормочет Ответчик вопросы сам себе, верные вопросы, которые никто не может понять.
И как их понять?
Чтобы правильно задать вопрос, нужно знать большую часть ответа.
(с) Робер Шекли, 1953
И я вас уверяю господа, одна из профессий будущего будет "Задавать правильные вопросы нейросетям"
Показать полностью
ИИ не крадёт данные
Показать полностью
1
Каждый раз, когда захотите поделиться чем-то личным (на пикабу)-помните о Tea app
Если вы работаете с данными или просто интересуетесь, как далеко могут зайти последствия “безобидной” регистрации в вирусном приложении, не пропустите, что происходит вокруг Tea app.
Tea - это приложение только для женщин, где можно анонимно делиться историями о любых отношениях с мужчинами: бывшие, коллеги, друзья. Без имён, но с описаниями: профессия, место работы, город. Формат - лёгкий, “по приколу”, почти как исповедь в сторис.
Но этот “безобидный” сервис в один момент превратился в цифровой кошмар, как для самих участниц, так и для тех, о ком шла речь.
🔓 Кто-то обнаружил, что регистрационные данные пользователей, включая геолокации, фотографии и метаданные, лежали без защиты.
📍 Из этих данных собрали интерактивную карту, которая была намеренно выложена в открытом доступе.
Эта история - не просто о “провале безопасности”. Она о том, как цепочка некоординированных действий со стороны разработчиков, аналитиков и самих пользователей может нанести реальный вред:
👨💻 Фаундер, поклонник “vibecoding”, оставил пользовательские данные открытыми, случайно или намеренно.
🧑💼 Аналитик, не обремененный этическими соображениями, собрал из 72 000 регистрационных записей карту пользователей с точками локаций.
👩💼 Пользовательницы, не подозревающие, что у фото есть метаданные и что эти данные могут навредить им, их близким или работодателям.
Некоторые реальные последствия уже проявились:
🪖 Одна женщина зарегистрировалась прямо на территории военной базы.
🏡 Другие - из малонаселённых регионов, где легко понять, кто именно писал.
🏛 В отдельных районах внимание привлекли сопоставления с публичными фигурами, так как фото и геометки указывали на места их проживания.
Мораль этой истории не укладывается в один вывод. Это и о цифровой наивности. И об отсутствии “тормозов” у тех, кто превращает чужую активность в публичный артефакт. И об очень хрупкой грани между “просто приложение” и реальной угрозой для жизни, карьеры и репутации.
Мы уже живём в реальности, где утечка данных воспринимается как норма. Мы не можем контролировать действия других, но можем решать, что именно и где о себе оставить. (из сети)
Показать полностью
1
Ответ на пост «Истории от Master095. Что могут узнать о вас спецслужбы если дать им телефон в руки. ПО "Мобильный криминалист"»2
Вот мне интересно, на что рассчитывают как потенциально опасные, так и те кто их ищет.
Суть очень проста, если есть информация которую вы хотите спрятать от лишних глаз, то есть масса способов как это сделать даже в открытую. Хуй кто догадается что вы там что-то замышляете, даже отдав телефон на анализ самим разрабам.
Самое банальное, что приходит в голову, это общение через TeamSpeak с зашифрованным трафиком. Даже можно без сервера посредника, ну или найти открытый для доступа для короткого разговора. Короче способов масса. Для выявления закономерностей взять телефон для анализа - потратить время.
Ответ на пост «Истории от Master095. Что могут узнать о вас спецслужбы если дать им телефон в руки. ПО "Мобильный криминалист"»2
Для ОС Android есть специальный софт для таких случаев. После того как все настроили, при вводе специального пин кода (на экране блокировки) телефон полностью уничтожает все данные. Остается ухмыльнутся в лицо чекистам, ведь им теперь никакой терморектальный криптоанализатор не поможет.
Истории от Master095. Что могут узнать о вас спецслужбы если дать им телефон в руки. ПО "Мобильный криминалист"2
Вчера был у клиента, а он много летает и несмотря на то, что он Россиянин у него место рождения Одесса(Украина) его постоянно по прилету внимательно досматривают отводят в отдельную комнату, забирают телефон просят разблокировать. И он меня спросил, а какие данные они могут из него получить, да практически всё.
Программа называется МОБИЛЬНЫЙ КРИМИНАЛИСТ, широко используется следственными органами, она позволяет за короткое время сделать копию телефона со всеми данными в определенном формате OFBX.
В том числе из этой копии можно просмотреть все сохраненные пароли от аккаунтов, все сообщения включая whatsapp и telegram, отправленные файлы и геолокации(причем отдельно по 3G/4G/LTE/GPS)
Интересен формат работы с базами данных, например если расследуется уголовное дело, в программу можно вбить интересующую дату и она сделает подборку всех событий по этой дате - сообщений, переписок, файлов, фото, местоположений.
Или например если выбрать один контакт, то программа соберет и выстроит в логическую цепочку всё общение с ним включая мессенджеры и электронную почту, обмен файлами.
Умеет искать непристойный контент включая поисковые запросы.
Работает как с iphone так и с android
Вот такой прогресс, органы следствия не стоят на месте, отдал разблокированный телефон по сути кусочек своей жизни засветил по полной.
Ну и давно я вас не звал в телеграмм канал, там тоже хвататет уникального контента, который здесь просто не формат
Показать полностью
1