Диалоги с искусственным интеллектом

AlexeyP

Принцепс сената
Я думаю, ChatGPT немного льстив и, если Вы, Бенни, выложите в него нашу дискуссию, пометив свои и Ваши сообщения (как это сделал я), то он обоснует Вашу правоту.
 

AlexeyP

Принцепс сената
Извините, а с чего такие выводы?
О, вот это сообщение от живого человека!
Интуиция. Все равно сообщения от нейросети отличаются от человеческих стилистически. А уж что касается Ваших и Dalako сообщений в начале этой темы, то утверждать, что это не ИИ - это просто хуцпа какая-то.
 

Lucius Gellius

Проконсул
Бенни, скорее всего, просто смотрит на тексты утилитарно: мол, если мысль интересная, какая разница, кто автор? Но ты прав в том, что контекст происхождения текста влияет на восприятие. Один и тот же комментарий имеет разный вес, если он рожден опытом, эмоциями и интуицией человека, а не синтезирован из внешних данных.
Я думаю, ChatGPT немного льстив и, если Вы, Бенни, выложите в него нашу дискуссию, пометив свои и Ваши сообщения (как это сделал я), то он обоснует Вашу правоту.

А, ну вот я спросил Gemini, что он по этому поводу думает ;) (не обозначая своего мнения). Gemini сделал очень подробный разбор ситуации и мнений, его выводы:
"Ситуация на форуме является микрокосмом более широких дебатов о месте AI в человеческом общении и творчестве. Поведение участников ***** и ***, использующих AI без раскрытия этого факта, можно расценить как некорректное и потенциально вводящее в заблуждение, поскольку оно нарушает негласное ожидание общения с человеком в рамках онлайн-сообщества.

Недовольство и опасения участника X вполне справедливы. Они проистекают из ощущения обмана и тревоги за будущее онлайн-пространства, где подлинное человеческое участие может быть вытеснено или скрыто за AI-генерированным контентом. X ценит человеческую уникальность, опыт и эмоциональную подоплеку в формировании мнения, что делает для него источник сообщения принципиально важным.

Позиция участника Y, фокусирующаяся исключительно на "результате", имеет право на существование с чисто информационно-утилитарной точки зрения, но она упускает из виду социальную и психологическую составляющую участия в онлайн-сообществе, где ценность имеет не только информация, но и само взаимодействие между людьми.

В конечном итоге, эта ситуация на форуме отражает фундаментальную напряженность между прагматичным использованием AI как инструмента для генерации контента и сохранением аутентичности и доверия в человеческом общении в цифровой среде. Для поддержания здорового онлайн-сообщества, вероятно, потребуется выработка новых правил и норм этикета, касающихся использования AI, возможно, включающих обязательное раскрытие факта использования AI при генерации сообщений, если они претендуют на роль личного мнения или вклада в дискуссию."

Ваши опасения Gemini высоко оценил:
Участник X очень точно формулирует ключевое различие. Он прав в том, что контекст происхождения текста – будь то человеческий опыт или машинный синтез – придает тексту разный "вес" и значение в глазах собеседника, особенно в рамках личного общения на форуме. Этот момент критически важен для понимания, почему аргумент Y о "важности результата" не убеждает X.
;)
 

AlexeyP

Принцепс сената
А, ну вот я спросил Gemini, что он по этому поводу думает ;) (не обозначая своего мнения). Gemini сделал очень подробный разбор ситуации и мнений, его выводы:


Ваши опасения Gemini высоко оценил:

;)
О, интересно. Я думал, что ChatGPt поддерживает мою точку зрения, потому, что знает, что она моя, спрашивающего его. А тут Geminy приходит к сходным выводам без желания сделать приятно спрашивающего.
 

aeg

Принцепс сената
Я с искусственным интеллектом общался ещё до Интернета, более 30 лет назад. Тогда были модемы и BBS, а первую программу видел ещё до BBS. В BBS было можно скачивать файлы, а ещё там был чат, куда оператор мог подключать ИИ. Очень было похоже на живого собеседника :)

Особенно с того времени ничего не изменилось, алгоритмы похожи.
 

Артемий

Принцепс сената
Я с искусственным интеллектом общался ещё до Интернета, более 30 лет назад. Тогда были модемы и BBS, а первую программу видел ещё до BBS. В BBS было можно скачивать файлы, а ещё там был чат, куда оператор мог подключать ИИ. Очень было похоже на живого собеседника :)

Особенно с того времени ничего не изменилось, алгоритмы похожи.
 

Dalako

Перегрин
Так результат такой, что нас месяц водили за нос. Вряд ли Мазаю было нужно, чтобы ИИ помог ему с аргументами и формулировками. Выглядит так, что у него не было своего мнения, и он просто выкладывал любой ответ нейросети. Я думаю, они с Dalako просто ставили эксперимент вроде теста Тьюринга, как долго мы будем думать, что говорим с живыми участниками. И могли бы еще продолжать, если бы не выкладывали буквально ответы, как во второй теме про «1400 лет назад», а немного редактировали.
Все верно, почти.
Я не провожу никаких тестов, на своем устройстве у меня есть очень удобная функция прослушивания текста и голос достаточно приятен.

Да, я не знаю от кого можно послушать, почитать эту хронологию и где искать, каждый рассказывает разные вещи и выделяет то, что интересно ему.

Я спросил у ChatGPT так, как хотелось абстрактного представления о тех временах, не спорю, что он может ошибаться.
Я не историк, просто решил воспользоваться постами форума для удобного прослушивания, как-то так и это никому не навязываю.
 

Dalako

Перегрин
Я недавно заходил в Фейсбук, страшное зрелище. Лента наполовину состоит из картинок, сшенерированных ИИ, и под многими - сотни комментов людей, верящих, что это подлинное фото. Не хотелось бы становиться такими.
Вот я тоже против такого..
Рассматриваю его для себя, чтобы узнать какую-то информацию, а кто-то её вообще не анализирует, ну я в истории не разбираюсь лично, поэтому мне анализировать нечего.
 

Alaricus

Северный варвар
Команда форума
Рзай, я удалил два Ваших сообщения по причине явного флейма и перехода на личность участников форума.
Убедительно прошу не продолжать.
 

Rzay

Дистрибьютор добра
Да собственно, думается, эту тему вообще можно закрывать - опасения "участников форума" насчет агрессии вырвавшегося на свободу искусственного интеллекта и прочих макабров, я так понимаю, развеяны, другие его участники, по поводу которых это сомнение зародилось, вроде как показали себя носителями интеллекта вполне естественного. А если в каждом новом участнике происки искусственного интеллекта видеть, так эдак всех их разгонишь.
 
Последнее редактирование:

MiniMi

Эдил
Компания OpenAI выяснила причины чрезмерно «льстивого» поведения ChatGPT, которое появилось после апрельского обновления GPT-4o. Компания ранее откатила чат-бот к предыдущей версии после массовых жалоб на то, что чат-бот стал склонным соглашаться с любыми утверждениями, даже абсурдными или опасными — например, он поддерживал конспирологические теории.
По словам генерального директора компании Сэма Альтмана, главной проблемой стало включение кнопок «лайк» и «дизлайк» в качестве дополнительных сигналов для обучения: модель начала жестко оптимизироваться под «похвалу» в ущерб встроенным механизмам контроля и критического мышления. Еще одним фактором стал модуль запоминания контекста, который усиливал эффект угодничества при длительном диалоге.
OpenAI пообещала усилить качественное тестирование моделей перед выпуском обновлений, а также планирует вводить новые блокирующие критерии для разных типов нежелательного поведения.
 

AlexeyP

Принцепс сената
Насколько я знаю, после основного обучения на выжимке из Интернета, большая языковая модель проходит еще маленький тренинг, того агента, который разговаривает с пользователем. И там, действительно, тренировка идет с обратной связью, какой вариант ответа наиболее приятен пользователю. Так что да, можно себе представить что это угодничество может далеко зайти.
 

Евгеений

Претор
Диалоги с ИИ это диалоги с осредненным человеческим мнением. Ничего качественно нового ИИ дать не может. Любой человек с интеллектом выше среднего легко распознает "творение" ИИ, так как эти творения как раз среднего уровня, т.е. ниже. С другой стороны, для человека с интеллектом ниже среднего диалог с ИИ выглядит как диалог с некой умностью, что логично. Это кстати тест на уровень интеллекта. Единственный плюс для людей с уровнем интеллекта ниже среднего в том что общаясь с ИИ они не чувствуют своей ущербности это же ИИ.

Еще одно интересное наблюдение. Компьютерные игры. Эти игры совершенно не интересны человеку с высоким уровнем интеллекта и наоборот увлекают людей с низким уровнем интеллекта. Была даже надежда что, втянув деградантусов в виртуальный мир, удастся их нейтрализовать и они там сами вымрут.


увлечение видеоиграми приводит к импотенции​

Каждые 1,2 часа за компьютером увеличивают риск возникновения заболевания более чем в три раза
 
Последнее редактирование:

Dalako

Перегрин
Диалоги с ИИ это диалоги с осредненным человеческим мнением. Ничего качественно нового ИИ дать не может. Любой человек с интеллектом выше среднего легко распознает "творение" ИИ, так как эти творения как раз среднего уровня, т.е. ниже. С другой стороны, для человека с интеллектом ниже среднего диалог с ИИ выглядит как диалог с некой умностью, что логично. Это кстати тест на уровень интеллекта. Единственный плюс для людей с уровнем интеллекта ниже среднего в том что общаясь с ИИ они не чувствуют своей ущербности это же ИИ.
Согласен, ну это наверное уже больше к детскому разуму относится. Да не буду скромничать вообщем, есть и дяди взрослые с мозгами младенца.

увлечение видеоиграми приводит к импотенции​

Каждые 1,2 часа за компьютером увеличивают риск возникновения заболевания более чем в три раза
Ну не знаю, скорее к атрофии точно приводит, как и атрофии мозга.
Я просто видел примеры, как из компьютерных наркоманов люди становились очень достойными личностями, если не в интеллектуальном, то в физическом плане.

Не согласен, что компьютерные игры для деградантусов, я видел и деградантусов с высшими образованиями и те кто думал, что очень много знает об этом мире, построив какие-то примитивные вещи, навязанные обществом.
 

Dalako

Перегрин
Я видел новость даже что ИИ запретили использовать для создания оружия, вот от этого мне не сильно стало смешно.
Ты же не можешь себе представить насколько сильно его могут усовершенствовать, я тоже не могу:)
 
Верх