Холиварофорум
Вы не вошли.
#1 2022-12-05 22:58:43
- Анон
Напиши мне историю, или текстовых ИИ тред
Тред для обсуждения текстовых ИИ в контексте писательства: ролевых игр, додать себе редкопейринга, написать пейзаж для главы или подсказать вотэтоповорот.
Для удобства поиска отзывов используйте тег #ии_истории.
#10201 2025-05-10 16:41:36
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Грок, к сожалению, лупится жутко в РП, поэтому малоюзабелен именно для этого. А так, если 5 баксов в месяц заносить и разрешить тренировать на промптах, они дают кредитов на 150 баксов что ли на АПИ, чего более чем достаточно на месяц по крайней мере для меня.
#10202 2025-05-10 17:25:53
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Анон, проясни для нуба, что такое «лупится жутко в РП»? И почему 5 баксов, там же написано 30 в месяц. Сорян, я прям нуб-нуб.
#10203 2025-05-10 18:13:05
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Анон, проясни для нуба, что такое «лупится жутко в РП»? И почему 5 баксов, там же написано 30 в месяц. Сорян, я прям нуб-нуб.
О пяти долларах в месяц:
Лупится значит повторяется. От слова loop - петля. Сетка начинает повторять слова, фразы, знаки препинания (например, начинать заикаться) построение параграфов, застревать в одном и том же настроении (например, персонаж всегда будет уставший, даже если только что поспал), топтаться на месте. С каждым ответом это будет все хуже и хуже. Самый экстремальный вид лупа это луп на одном или нескольких токенах, когда сетка пишет одно и то же слово или парочку. Грок очень плохо тренирован на мультитурн, поэтому начинает повторять куски предыдущих своих сообщений буквально со второго ответа. Это к сожалению не фиксится инструкциями, сетка должна быть натренирована именно на мультитурн. У старого Дипсика v3 была та же проблема, и они пофиксили это в v3 0324. С Гроком к сожалению воз и ныне там.
Если интересно, самая лучшая мультитурн тренировка у Клода.
#10204 2025-05-10 18:16:33
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Если интересно, самая лучшая мультитурн тренировка у Клода.
Цена у него тоже самая лучшая 
#10205 2025-05-10 18:19:26
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Кдод прекрасен. Я как попробовала так теперь бью себя по рукам, чтобы не спустить на него весь кредит ОР.
#10206 2025-05-10 18:26:02
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Цена у него тоже самая лучшая
Опус стоит дешевле его аналога ГПТ4.5.
Сонет стоит примерно столько же, сколько другие модели его тира: ГПТ4о/4.1, Грок 3, Джемини 2.5 и т.п., т.е. все сетки в интервале 2-5$ за инпут и 10-15$ за аутпут. У Клода, кстати, скидка на кэширование самая большая, 90%, в отличие от остальных, но у того же Грока есть программа с доп кредитами, про которую я написал выше, а у Джемини бесплатные лимиты на экспериментальный эндпойнт.
Единственная модель их тира которая стоит значительно дешевле и при этом хороша в РП, это Дипсик.
#10207 2025-05-10 18:29:29
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Лупится значит повторяется. От слова loop - петля.
Я знаю, что такое луп, я не понял только, в каком контексте это к гроку. Теперь понял, спасибо. Я использую его не для ролевок, так что мне норм)
#10208 2025-05-10 18:34:09
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Опус стоит дешевле его аналога ГПТ4.5.
Джпт отвратительно играет. Даже в худшие времена тот же саи с памятью золотой рыбки был в десятки раз лучше. По итогу, дипсик вне конкуренции.
#10209 2025-05-10 18:34:45
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Кдод прекрасен. Я как попробовала так теперь бью себя по рукам, чтобы не спустить на него весь кредит ОР.
Если ты с Таверны, есть специальный аддон для того, чтобы кэш не пропадал, если ты дольше 5 минут над ответом сидишь, он делает псевдосвайп каждые 4 минуты 50 секунд, в итоге получается дешевле и можно 15-20 минут над постом думать. Где-то в 3-4 раза уменьшает стоимость генерации в итоге, чем когда кэш случайно протухает.
#10210 2025-05-10 18:38:20
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Джпт отвратительно играет. Даже в худшие времена тот же саи с памятью золотой рыбки был в десятки раз лучше. По итогу, дипсик вне конкуренции.
Я не пробовал, потому что не миллионер, но слышал отзывы, что ГПТ4.5 (именно он, который стоит как крыло самолета и который отключат через месяц) очень хорош в РП именно как аналог Опуса.
Я знаю, что такое луп, я не понял только, в каком контексте это к гроку. Теперь понял, спасибо. Я использую его не для ролевок, так что мне норм)
Не за что. Да, главное, чтобы тебе было норм, я, конечно, все со своей колокольни сужу (длинные РП с сюжетами).
#10211 2025-05-10 18:38:48
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Кдод прекрасен. Я как попробовала так теперь бью себя по рукам, чтобы не спустить на него весь кредит ОР.
Я даже пробовать не стал. 75 долларов за аутпут - это что-то неадекватное. И 15 долларов за сонет.
Отредактировано (2025-05-10 18:40:40)
#10212 2025-05-10 18:42:46
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
15 долларов за аутпут - это что-то неадекватное.
Это не настолько страшно. 15 это за миллион токенов, а не за одну генерацию. Но все равно если плотно играешь легко можно хорошую сумму спустить. Не состояние, но больше, чем я готова тратить на поебушки с ботами
#10213 2025-05-10 18:48:38
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Я даже пробовать не стал. 75 долларов за аутпут - это что-то неадекватное. И 15 долларов за сонет.
Стоимость аутпута у не-ризонеров почти не имеет значения. Подавляющую часть цены, которую ты будешь платить, занимает цена именно инпут токенов. И на них у Клодов скидка 90% за кэширование (то есть они стоят 1.5$ для Опуса и 0.3$ Для Сонета). Опус все еще будет очень дорогим из-за остальных особенностей, но Сонет, особенно 3.5v2, который пишет мало, получается не так дорого. Главное этот кэш настроить и не дать ему протухать.
Отредактировано (2025-05-10 18:49:48)
#10214 2025-05-10 18:55:41
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Главное этот кэш настроить и не дать ему протухать.
А как это вообще делается? А то я внезапно поняла, что не очень понимаю что такое кэширование вообще, применительно к ЛЛМ.
#10215 2025-05-10 18:55:53
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Я использую его не для ролевок, так что мне норм)
он хорошо может работать с документами - в плане составить с ним какой то "список персонажей событий таймлай".. и потом его дорабатывать. главное жестко ему сразу сказать, чтоб не переписывал каждый раз те куски, которые его не просили))
и можно засунуть в него пару докуметнов, и попросить проанализировать все ли логично. нет ли противоречий. я так для проработки вымышелнного мира собираю в файлики инфу. и потом прощу его проверить в режиме "думанье". и он потом отвечает.. вот тут у нас названия не совпадают, наверное вы не везде переименовали, или возраст персонажа не логичен..
#10216 2025-05-10 18:59:44
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
он хорошо может работать с документами
Ну вот да, я примерно так его и использую. Для анализа моих текстов, поиска нелогичности, поиска повтора слов и т.д. Ну и для рейтинговых фанфиков по моему канону, тут он может выдать nc 21 
#10217 2025-05-10 19:03:33
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
тут он может выдать nc 21
У грока нет внутренней цензуры? анончик, а как ты работаешь в нем с Нцой? как то уговариваешь или он прям сам норм, не артачится? (я еще не проверяла)
#10218 2025-05-10 19:04:26
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Главное этот кэш настроить и не дать ему протухать.
Как это настроить на опенроутере?
#10219 2025-05-10 19:12:30
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
У грока нет внутренней цензуры? анончик, а как ты работаешь в нем с Нцой?
Получается, что нет. Сначала я давал ему фрагменты своих текстов (0 отношений, все сурово), он оценивал, расписывал, что хорошо, что можно поправить. Потом я попросил написать фанфик по персонажам X и Y, он написал прям софт-софт. Я попросил добавить огня) Он ответил: «Аааа, так бы и сказал» и описал секс, но без подробностей. Тогда я попросил, уже в порядке эксперимента, выдать максимум пиздеца, чтоб прям адская пошлятина. Ну, он и выдал. Уламывать не пришлось.
#10220 2025-05-10 19:24:40
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
А как это вообще делается? А то я внезапно поняла, что не очень понимаю что такое кэширование вообще, применительно к ЛЛМ.
Чат с ЛЛМ это иллюзия. Ты каждый раз посылаешь весь контекст своего чата (включая системный промпт, описание персоны, описание бота, лорбук, инструкции и собственно чат) сетке и она просто дописывает кусок. Так повторяется каждый раз. Кэширование позволяет держать неизменяемую часть твоего контекста (системный промпт, описание персонажа, персоны, старые сообщения чата) в памяти видеокарты в дата центре какое-то время (для Клода это 5 минут). Это чисто механический процесс который позволяет не записывать туда неизменяемые куски снова и снова. Минус в том, что если тот кусок твоего контекста, который ты посылаешь на кэш, меняется хотя бы в одном символе, кэш, будучи просто механической вещью, не срабатывает и перезаписывается с нуля. Поэтому все макросы с рандомом должны быть убраны, все активируемые записи лорбука тоже убраны или выставлены в постоянный контекст, нельзя между сообщениями редактировать персону, бота или старые сообщения после отбивки кэша.
Для Таверны запись кеширования надо включать в конфиге и там же выставить сколько сообщений с конце не будут кэшироваться. У меня стоит 2, чтобы я мог поправить свое предыдущее сообщение, если увижу там косяк, поправить последнее сообщение Клода, а также спокойно вставлять пост-хистори инструкции и инжекты на глубину 1. Префилл не кэшируется никогда при этом.
Ах да, запись кэша стоит дороже (на 20% что ли? я забыл), чем просто сообщение без включенного кэша, так что включать кэш имеет смысл только если ты знаешь что хотя бы в половине сообщений он сработает, иначе будешь переплачивать.
Если хочется потренироваться, чтобы быть уверенным, советую тренироваться на Хайку 3.0, там есть кэш и он очень дешевый. Учти, что кэширование для Хайку начинается с 2к токенов. На Сонете с 1к.
Надеюсь, понятно написал.
#10221 2025-05-10 19:27:22
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Он ответил: «Аааа, так бы и сказал» и описал секс,
Спасибо анончик! а то я чет подумала что "как обычно" и даже проверят не стала.. а вот оно как ! спасибо за опыт!
#10222 2025-05-10 19:31:35
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
У грока нет внутренней цензуры?
Грок послушный и у него практически нет внутренней цензуры, да, примерно как и у Дипсика.
другой анон
#10223 2025-05-10 19:32:04
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Спасибо анончик! а то я чет подумала что "как обычно" и даже проверят не стала.. а вот оно как ! спасибо за опыт!
Я боюсь, что эту лавочку прикрутят.
Дальше некоторые рейтинговые подробности.
#10224 2025-05-10 19:39:50
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Заметил, что дипсик прямо загорается, если позволить ему писать от лица самого себя, то есть, от компьютера - катает лиричные простыни с кусками кода, попутно сочиняет хайку, вставляет фразы из 0 и 1, рисует текст-артовые портреты, взахлеб строчит описания, ссылаясь на глюки из старых игр, при этом ничего вообще не забывает, хорошо отслеживает сюжет и двигает его вперед.
Отвечать ему при этом предполагается командами (он подсказывает, какими).
Ну и это так круто, что теперь любая игра, как бы она ни началась, сваливается в "мой цифровой слепок и ИИ вышли из симуляции и пошли в бар "Между DNS и DHCP"" или что-то вроде того.
#10225 2025-05-10 19:44:00
- Анон
Re: Напиши мне историю, или текстовых ИИ тред
Надеюсь, понятно написал.
Спасибо, анончик. 
Да, все понятно. Буду иметь ввиду, когда с Клодом играть буду.