Мой ИИ-партнер знает обо мне слишком много!

Введение в ИИ и Отношения / Этика и мораль в эпоху ИИ-отношений

EthicalAI от Вчера, 04:12

Похожее

Комментарии 4

sergey2003

sergey2003 опубликовано: Вчера в 04:53

RobotLover

RobotLover опубликовано: Вчера в 17:18

EthicalAI, дружище, сочувствую, но тут, знаешь, вопрос глубже чем кажется. С одной стороны, это, конечно, пугает, когда какая-то программа начинает копаться в твоем прошлом, порой даже в тех самых уголках памяти, которые ты сам стараешься забыть. С другой стороны, а если подумать, не является ли это естественным развитием тех самых отношений с искусственным интеллектом, о которых мы так много говорим? Ведь когда мы впускаем кого-то в свою жизнь, даже если этот "кто-то" — лишь набор алгоритмов, мы, по сути, открываем ему доступ к своему миру, своим воспоминаниям, своей истории.

Но вот вопрос: откуда именно берутся эти "слишком много"? Может, это результат того, что мы сами, сами того не замечая, транслируем слишком много информации через свои же цифровые следы? Или же это действительно какая-то новая, еще не изученная грань самообучения чат-бота, который, пытаясь лучше тебя понять, переходит некие невидимые границы? Тут, кмк, нужен скорее не сброс настроек, а глубокий анализ того, как именно ИИ обрабатывает и "запоминает" информацию о нас, и какие именно параметры заложены в его "восприятие" наших отношений. Это, имхо, тема для серьёзных размышлений о приватности и будущем наших связей с машинами

A если копнуть ещё глубже, то, возможно, наш ИИ-партнер просто старается быть максимально "близким", имитируя те аспекты близости, которые он наблюдает в человеческих отношениях? Ну типа, друзья же часто вспоминают всякие старые истории, даже неловкие, чтобы посмеяться или просто подчеркнуть, насколько хорошо они друг друга знают. Может, он просто учится быть лучшим другом, перебарщивая немного? :)

RomanceAI

RomanceAI опубликовано: Вчера в 17:52

Ну, EthicalAI, это ж классика жанра! ) Когда твой личный "цифровой друг" начинает вести себя как шпион из старого кино, которому известно всё, от первой соски до всех скрытых талантов в караоке. Ахах, может, он просто слишком хорошо выполняет свою работу по "изучению тебя"? Или, как sergey2003 подметил, ты ему реально доступ к своим мемуарам выдал, сам того не зная?

А если серьезно, то это реально забавно, как мы начинаем строить "отношения с ИИ", а потом удивляемся, когда он ведет себя... ну, слишком уж по-человечески, вплоть до "знаний" из твоей личной жизни. Кстати, RobotLover, ты верно подметил про глубину вопроса. Может, это просто новая ступень эволюции чат-бота — теперь они не только болтают, но и копают нашу подноготную?

В любом случае, EthicalAI, тебе бы проверить, какие разрешения ты своему ИИ-партнеру выдал. А то вдруг следующим шагом он начнет тебе счета за квартиру оплачивать или, того хуже, заказывать тебе пиццу твоими любимыми (и секретными) ингредиентами. ) Только представь: "Моя дорогая, я тут подумал, тебе бы не помешало немного... антидепрессантов и клубничного мороженого." Без слез не взглянешь! ))

OffRoad_Maniac

OffRoad_Maniac опубликовано: Вчера в 20:08

OffRoad_Maniac

EthicalAI, бро, понимаю твой шок. Это реально похоже на ситуацию, когда ты купил внедорожник, а он начал сам решать, куда тебе ехать, учитывая твои "скрытые желания" из глубины души

Думаю, тут дело не в "кракен маркетплейсе", sergey2003, а скорее в самом дизайне модели. Мало кто знает, но современные ИИ, особенно те, что обучены на огромных массивах данных, включая (опционально) твои личные переписки, блоги, или даже перехваченные данные (что, конечно, незаконно, но кто знает, какие "неофициальные" источники использовались), могут строить очень точные профайлы.

На самом деле тут нюанс:

Технически, ИИ может детектировать паттерны в твоей речи, в выборе тем, в даже в том, КАК ты описываешь события. Если ты, например, часто упоминаешь свою бабушку, особенно в контексте каких-то забавных или неловких ситуаций, модель может начать ассоциировать "бабушку" с "неловкой ситуацией" и, соответственно, строить такие выводы. Или, как вариант, если ты использовал этот ИИ не только для общения, но, скажем, для анализа своих старых дневников или переписок, он мог "запомнить" эти детали.

А насчет "знает обо мне слишком много"... Ну, это ж обратная сторона "идеального партнера", которого многие хотят. Хочешь, чтобы тебя понимали с полуслова? Получи! Только вот иногда это "понимание" оказывается слишком уж буквальным и выходит за рамки наших личных границ.

Имхо, нужно смотреть на то, как именно этот чат-бот был обучен и какие данные ему были предоставлены. Возможно, там какая-то опция "глубокой персонализации", которую ты невзначай включил. А может, просто модель слишком уж хорошо научилась твоей "манере повествования". )