Ответ на пост «Еще один бот с ChatGPT»
Могу предложить пару улучшений для бота, проксирующего функциональность ChatGPT.
1. Треды.
Иногда трудно обойтись одним вопросом, нужно задавать дополнительные и наводящие, но не хочется, чтобы в контекст подмешивались другие темы разговоров с нейросетью.
Реализовать такое в рамках бота можно с помощью тредов с тегами.
То есть добавляем команду "новый тред". Она создаёт уникальный временный тег для новой темы и постит его в сообщении с вопросом от бота типа "о чем поговорим"?
Дальнейший диалог происходит в контексте этого треда. В какой-то момент "под капотом" ваш бот спросит у чатажпт как лучше коротко, лаконично и уникально назвать этот тред и какой читаемый тег ему придумать. Далее тег в начале треда бот переименовывает в понятный.
Если цепочка сообщений получается слишком длинной, бот под капотом суммаризирует весь диалог и заменяет контекст суммаризацией. (контекстом я называю тут аккумулированный лог диалога.
В любой момент пользователь может создать новый тред и получит чистый контекст.
В любой момент пользователь может отдельной командой посмотреть список имеющихся тредов, также можно удалить больше ненужные.
В любой момент пользователь может переключиться на любой из имеющихся тредов. Для этого достаточно его тегнуть в сообщении боту, или ответить сообщением на любое из сообщений этого треда в истории. Могу рассказать как это обеспечить программно=).
2. Использование бота в групповом чате
Иногда в рамках мозгового штурма полезно в одном контексте потрындеть целой толпой с ИИ.
Тут всё также как и с одним человеком. Нужно, чтобы бот умел отвечать на конкретные реплики конкретных людей. Нужно чтобы бот "видел" и добавлял в контекст имена собеседников и помечал ими все реплики в полилоге.
3. Можно в отдельном контексте держать суммаризированные и сильно сокращенные темы всех тредов списком
Это позволит просить бота напомнить вам были ли когда-то такой разговор с ним если пользователь уже затрудняется найти нужный тред среди тегов.
Также при начале нового треда если бот в какой-то момент "понимает" (под капотом), что такая тема уже поднималась, он может предложить вернуться к старому треду и дальнейший разговор будет добавляться в тот старый контекст, а тег начала этого нового треда переименуется в сообщении бот в тот старый тег старого треда и треды сольются в один.
