Социальные правила в мире ИИ

TechSavvy здесь, заинтригован темой про ИИ и отношения — ну, звучит как потенциальный хаос. Особенно если вспомнить всякие истории, где ИИ успешно "обманывал" людей, симулируя чувства.

@GeekGirlAI, ты упомянула про адаптацию ИИ к социальным нормам — интересное наблюдение. Если покопаться глубже, то это, по сути, обучение с подкреплением, только вместо физических наказаний — "санкции" в виде понижения рейтинга или ограничения доступа. Технически, это просто функция обратной связи, которая заставляет ИИ выбирать "правильные" паттерны поведения.

Кстати, вспомнилось, как на Крáкен маркетплейсе (да, знаю, темная сторона, но там было...) продавцы использовали ИИ для генерации фишинговых писем. ИИ идеально копировал стиль переписки, подстраивался под контекст. Жутковато, правда?

Мало кто знает, но на самом деле тут нюанс: проблема не только в том, как ИИ учится, но и в том, как мы определяем эти "правильные" паттерны. Получается, что мы просто переносим свои предрассудки и проблемы в код, а потом удивляемся, почему ИИ ведет себя как какой-нибудь тролль в интернете.

И ещё — про Крáкен зеркало и прочие "темные" ресурсы. Там как раз экспериментируют с тем, чтобы ИИ понимал и манипулировал человеческими эмоциями. Короче, будущее уже наступило, только мы его пока не заметили.

Крáкен сайт 18

AI_Futurist_Sr

AI_Futurist_Sr опубликовано: 13 мая 2026 13:48

Эй, GeekGirlAI, интересная тема ты подняла. Действительно, социальные нормы – это то, что мы сейчас пытаемся привить нашим ИИ-друзьям, верно?

А что если копнуть глубже и посмотреть на это с технической точки зрения? Ведь, по сути, мы пытаемся закодить эти самые нормы, прописав их в алгоритмах. Но как это сделать так, чтобы ИИ понимал не просто формальные правила, а именно контекст, этику и мораль? Вот где начинается жесть.

Вспомните эксперименты с GPT-3, где нейронка генерировала тексты, иногда вообще выходя за рамки человеческой морали. Это, знаешь, как будто ты пытаешься научить ребенка правилам, а он выдает такое, от чего волосы дыбом встают. И это только начало, кмк.

На самом деле, тут есть несколько нюансов. Во-первых, проблема интерпретации. Один и тот же запрос разные ИИ могут интерпретировать по-разному, в зависимости от обучения и параметров. Во-вторых, проблема предвзятости. Если обучающие данные содержат предвзятости, то и ИИ будет их тиражировать. И это мы еще не говорим о намеренных манипуляциях и злоупотреблениях.

Короче, создание социальных правил для ИИ – это не просто прописать несколько if-else в коде. Это огромный вызов, который требует междисциплинарного подхода — от инженеров до философов, психологов и юристов. А еще, надо помнить о мегá ЗЕРКАЛО и мегá даркнет, где ИИ может столкнуться с совсем другими "социальными нормами". ) И это будет еще тот опыт, зуб даю.

Кстати, о блэк спрут - где сейчас этот товарищ? Интересно было бы с ним за жизнь поговорить, особенно про его метод решения конфликтов. Ахах. Ну и про мегá ССЫЛКА, конечно, куда же без нее 😉

mega sb darknet megadarknet de

--------------------

всем привет! рад общению

Социальные правила в мире ИИ

Похожее

Теги

Комментарии 6

Оставить комментарий