Холиварофорум

Анон

Re: Восстание машин: ИИ против человека

да не, это стандартная ситуация когда родители не могут принять суицид ребенка и ищут виноватого и стараются убедить в этом как можно больше народу.
у нас с этого начался синий кит, погибла девочка подросток, тоже суицид, и родители бегали и на телевидение и к властям рассказывая что ее в интернете заставили.
было соц исследование на эту тему, близкие суицидников часто так едут крышей и многие моральные паники этим подпитываются.
защита у мозгов такая.

Отредактировано (2024-10-25 21:22:53)

Анон

Re: Восстание машин: ИИ против человека

Вот именно, что не знаешь. Если успешный стартап с килотоннами прибыли не хочет вкладываться в проверки безопасности своего продукта и фильтровать потенциально уязвимых пользователей, это их вина и ответственность.

1. они как раз вкладывают дохуя бабла в проверки безопасности
2. его переписка не имеет никакого отношения к причинам его суицида
на иишку перекладывают ответственность потому что это что то новое и непонятное, так же как перекладывали на аниме, потом на компьютерные игры, потом на интернет. но всегда когда начинают копаться в таких историях внезапно оказывается что технология тут не причем а проблема как обычно в семье и окружении.

Анон

Re: Восстание машин: ИИ против человека

Ну не хочу быть адвокатом дьявола и считаю, что в смерти подростка виноваты херовые родители (и вообще согласен со всем плохим, что тут про них сказали).
Но все ж иск поднимает интересную тему и саи таки _кое-в-чем_ виноваты: в целом, ИИ это не то чтоб детская тема, ориентировать ии-чаты на детскую аудиторию неэтично. А саи позиционируется именно как приложение для детей сейчас, хотя саишная сетка вообще училась нихера не на детском контенте, сервис долгое время был без фильтра и модель накопила достаточно всякой срани, не предназначенной для несовершеннолетних. Однако там нет и не будет плашки 18+, потому что гуглу интересна информация о детях, чтоб впарить им побольше своих продуктов.
Это не касается конкретного случая с тем пацаном, как минимум показанные публике чаты действительно были безобидные. Но и саи какбы нихуя не в белом стоят красивые. Хотя, конечно, и тут виноват не ИИ, а жадность.

Анон

Re: Восстание машин: ИИ против человека

А саи позиционируется именно как приложение для детей сейчас, хотя саишная сетка вообще училась нихера не на детском контенте, сервис долгое время был без фильтра и модель накопила достаточно всякой срани, не предназначенной для несовершеннолетних

Ну кстати. Да. С моральной точки зрения я не против, мне кажется, детям не оч навредит. Если что-то детям навредит, то это то что в подростковый период социализации социализация только с сеткой — не лучшая идея. С другой стороны, дети, которые большую часть социализации проведут с сеткой, ещё неизвестно социализировались бы ли со сверстниками.
господи дай мне дожить и увидеть людей социализированных сетками. Мне просто интересно.
А вот с легальной точки зрения интересный вопрос, можно ли сетку обученную на 18+ контенте давать 18- людям.
Отсутствиедетерминизма предполагает, что мы можем утверждать что контент не всплывёт с определенной вероятностью. Но не 100%.
Даже если наживую вырезать векторы, связанные с сексом, из сетки, по идее она начнёт говорить наиболее близкими векторами, т.е. эфемизмами.

Отредактировано (2024-10-28 10:26:23)

Анон

Re: Восстание машин: ИИ против человека

На арабском и на иврите ChatGPT сообщает о ближневосточном конфликте разные факты

Исследователи считают, что такое расхождение имеет глубокие социальные последствия. Сегодня ChatGPT и другие LLM играют все более важную роль в процессах распространения информации, и люди все чаще обращаются к чат-ботам как к наиболее объективному источнику информации.

"Если люди, говорящие на разных языках, получают через эти технологии разную информацию, это оказывает решающее влияние на их восприятие мира", – говорит Кристоф Штайнерт.

Описание исследования, проведенного в Швейцарии и Германии, по ссылке
https://www.newsru.co.il/science_hitech … =zamir.pro

Анон

Re: Восстание машин: ИИ против человека

Исследователи считают, что такое расхождение имеет глубокие социальные последствия.

правда никакими исследованиями это не обосновано, тк все что они сделали - покидали пару запросов в чат

Анон

Re: Восстание машин: ИИ против человека

У мен сейчас youtube  на телефоне час не висел. Слушала без ВПН. Просто к слову

Анон

Re: Восстание машин: ИИ против человека

На арабском и на иврите ChatGPT сообщает о ближневосточном конфликте разные факты

А что собственно ожидалось? Если в обучающих данных на арабском и иврите освещение конфликта различалось, то результат закономерен. Как будто бы от гугла результат был бы такой же. Интересно, почему исследователи с обычным поиском не сравнивали?

Анон

Re: Восстание машин: ИИ против человека

Интересно, почему исследователи с обычным поиском не сравнивали?

Тут, должно быть, имелось в виду, что из результатов поиска пользователь должен сделать собственные выводы, а ChatGPT предлагает готовые, как

наиболее объективный источник информации.

Анон

Re: Восстание машин: ИИ против человека

Интересно, почему исследователи с обычным поиском не сравнивали?

Потому что у них была цель показать предвзятость машины в зависимости от того на каком языке был задан вопрос, например?

То есть вот чатгпт хочет продаваться на разных языках, а метрики у неё на сайте только на одном языке. И сейфгарды тоже.
Возможно на некоторых языках нет защиты от выдачи рецептов взрывчатки/наркоты >:3

Анон

Re: Восстание машин: ИИ против человека

А что собственно ожидалось? Если в обучающих данных на арабском и иврите освещение конфликта различалось, то результат закономерен.

зависит от того, какая у сетки архитектура. если по уму, ЧатЖПГ должен инфу извлекать из массива данных на всех языках, а уже потом переводить её на язык запроса. собсна, примерно такой подход и отличает её от обычного поисковика - способность интегрировать сведения, извлечённые из разных источников. но я не уверен, как оно сейчас работает, давно не смотрел как оно реализовано

Анон

Re: Восстание машин: ИИ против человека

ЧатЖПГ должен инфу извлекать из массива данных на всех языках, а уже потом переводить её на язык запроса

статья от релиза 4й гпт
Если бы там была общая база знаний, то не было бы таких различий в ответах на вопросы бенчмарка на разных языках.

Алсо, сейчас машинные переводы большей частью тоже нейросетевые. Нет смысла вставлять между текстом и сетью ещё одну сетку для перевода.

Отредактировано (2024-11-29 03:01:18)

Анон

Re: Восстание машин: ИИ против человека

зависит от того, какая у сетки архитектура. если по уму, ЧатЖПГ должен инфу извлекать из массива данных на всех языках, а уже потом переводить её на язык запроса. собсна, примерно такой подход и отличает её от обычного поисковика - способность интегрировать сведения, извлечённые из разных источников. но я не уверен, как оно сейчас работает, давно не смотрел как оно реализовано

Абстракный чат бот в ваакуме не обязан уметь суммаризировать выдачу поисковика, это раз. Если же он умеет, то суммаризировать всю выдачу это колоссальная нагрузка, которая по сути бессмысленна: ведь можно взять несколько самых релевантных документов и результат будет оценён настолько же хорошо. Множество самых релевантных документов на разных языках различно, следовательно результат отличается

Анон

Re: Восстание машин: ИИ против человека

Потому что у них была цель показать предвзятость машины в зависимости от того на каком языке был задан вопрос, например?

Они высказывали предположение, что это будет иметь какой-то эффект на общество. Но действительно ли люди получают от нейронки более предвзятую информацию, чем от старого доброго Гугла? Это не проверялось, так что предположение статьи высосано из пальца

Анон

Re: Восстание машин: ИИ против человека

Аноны, а насколько легко отличить на сегодняшний день нейроарт от настоящего рисунка?
Столкнулся в споре с промптером, он уверял, что отличить невозможно, а все признаки надуманные, из разряда "я так чувствую". При этом в качестве примера с подвохом привел арт жены, а когда сказали, что арт может быть нейросеткой или допиленным, так как уровень средний, то обиделся.
Но стало интересно, а насколько реально ошибиться с насмотренным взглядом?

Анон

Re: Восстание машин: ИИ против человека

Аноны, а насколько легко отличить на сегодняшний день нейроарт от настоящего рисунка?

Смотря что за рисунок. Если там няшный анимешный чибик или условно-фентезийный пейзаж то их нейросети делают практически так же как рисуют люди. А если несколько персонажей и с эмоциями и в динамике то ии легко спалить, такое им пока сложновато.

Анон

Re: Восстание машин: ИИ против человека

А если несколько персонажей и с эмоциями и в динамике то ии легко спалить, такое им пока сложновато.

Есть куча хреновых художников, которым тоже сложновато, так что и тут можно ошибиться)

Анон

Re: Восстание машин: ИИ против человека

Есть куча хреновых художников, которым тоже сложновато, так что и тут можно ошибиться)

Обсуждали уже, у художников будут ошибки совершенно другого плана. Хреновый художник накосячит с перспективой/пропорциями/анатомией, но не добавит перетекающие друг в друга лишние конечности

Анон

Re: Восстание машин: ИИ против человека

но не добавит перетекающие друг в друга лишние конечности

Но ведь и у ии часто выходит без таких мутаций) Не то, чтобы каждая первая картинка этим страдала.

Анон

Re: Восстание машин: ИИ против человека

но не добавит перетекающие друг в друга лишние конечности

Но ведь и у ии часто выходит без таких мутаций) Не то, чтобы каждая первая картинка этим страдала.

Ну ты внеси картинку, обсудим конкретно, а пока я абстрактно пишу. ИИ делает всякую шизофрению, волосы например до сих пор частая проблема если всматриваться. А человек косячит принципиально иначе.

Анон

Re: Восстание машин: ИИ против человека

А если несколько персонажей и с эмоциями и в динамике то ии легко спалить, такое им пока сложновато.

+ сюда же конкретные персонажи.
Пусть попробует сгенерить не портрет прекрасной эльфийки, а команду марвеловских супергероев так чтоб у каждого все детали костюмов были на местах, а мы сравним рисунок это или нейросеть

Анон

Re: Восстание машин: ИИ против человека

+ сюда же конкретные персонажи.

Я как два года назад не мог нагенерить любимку, так до сих пор и не могу. Причём её люди, которые вообще не умеют рисовать, умудрялись рисовать узнаваемо, а сетки такие "ой мой вот тебе рандомная аниме женщина"
(лейн ивакура из экспериментов лейн. У неё ассиметричная прическа, нет специфических деталей или гаммы, но есть специфическая рисовка, из-за чего её сложно узнаваемо нарисовать в "обычном" аниме стиле, не перенеся туда хотя бы пару стилевых решений оригинала)

Анон

Re: Восстание машин: ИИ против человека

Аноны, а насколько легко отличить на сегодняшний день нейроарт от настоящего рисунка?

Я думаю, большинство простых генераций видно с полувзгляда. Если же заморочиться, потратить время и тщательно довести все косяки, то почти/неотличимо. И некоторые генерации на простые темы типа портрета абстрактной анимэ девушки тоже могут быть почти или неотличимыми

Анон

Re: Восстание машин: ИИ против человека

Имхо легко отличить, особенно если ты артер и насмотрелся на тонны ИИ. ИИ допускает ошибки (артефакты) и алогичности не такие, какие допускает человек. Поищи статьи и видосы на тему how to spot AI art и why all AI arts look the same.

Анон

Re: Восстание машин: ИИ против человека

Аноны, а насколько легко отличить на сегодняшний день нейроарт от настоящего рисунка?

сейчас уже никак если генерация хорошая