Привет, наверно немного оверкил)

template = """Ответь на вопрос, в ответе используй только число без текста.
                Question: {q}
                Answer: В ответе только одно число, например, 4"""
                ans = []
                for id, df_ in df.groupby('dialogue_id'):
                    memory = ConversationBufferMemory()
                    conversation_buf_mem = ConversationChain(
                        llm=llm,
                        memory = memory,
                        verbose=True
                    )
                    for q in df_['question']:
                        response = conversation_buf_mem.invoke(template.format(q=q))
                        ans.append(response['response'])
                df['answer'] = ans

Не факт, что код является лаконичным и оптимизированным, но задачу им выполнил :)

 

    prompt_template = """Тебе будет задан вопрос, ответь на него.
                Текст: {text_input}
                Ответ: Твой ответ должен содержать только число, никаких больше слов и знаков быть не должно. 
                """
                    path = 'путь к файлу'
                    df = pd.read_csv(path)
                    answer_list = []  # Список, где будем хранить ответы модели
                    number_context = 1
                    for index, row in tqdm(df.iterrows(), total=df.shape[0]):
                        dialogue_id = row['dialogue_id']  # Получаем значение столбца dialogue_id
                        question = row['question']  # Получаем значение столбца question
                        if dialogue_id == number_context:
                            prompt = prompt_template.format(text_input=question)  # Формируем промпт, подставляя текст вопроса
                            response = conversation.invoke(prompt)  # Отправляем сформированный промпт в модель
                            answer_list.append(response["response"])
                        else:
                            conversation.memory.clear()
                            prompt = prompt_template.format(text_input=question)  # Формируем промпт, подставляя текст вопроса
                            response = conversation.invoke(prompt)  # Отправляем сформированный промпт в модель
                            answer_list.append(response["response"])
                            number_context += 1
                    df['answer'] = answer_list  # запишем предсказания в датафрейм
                    df.to_csv('solution.csv', index=False)  # сохраним решение в csv

# создайте цепочку диалога, в параметры передайте языковую модель и память

memory = ConversationBufferWindowMemory(k=3)

conversation_bufwin_mem = ConversationChain(

llm= llm,

memory = memory, # модуль памяти

verbose=True # отображать логи в консоли или нет

)

# ответьте на вопросы с помощью ЛЛМки

ans = []

for id, q in zip(df['dialogue_id'], df['question']):

    ans.append(conversation_bufwin_mem.invoke(input=q+' Ответь одним числом. Только числом.')['response'])

df['answer'] = ans # запишем предсказания в датафрейм

df['answer'] = df['answer'].astype(int)

df.to_csv('solution.csv', index=False)

ans = []

prev_id = df['dialogue_id'][0]

for id, q in zip(df['dialogue_id'], df['question']):

  if id != prev_id:

    conversation_buf_mem.memory.clear()

    response = conversation_buf_mem.invoke(f'Ответь на вопрос числом. Не пиши пояснения, пиши только четкое число цифрой, не пиши число словами, не ставь знаков припинания: {q}')['response']

    ans.append(response)

    prev_id = id

Здесь как раз можно использовать ConversationEntityMemory и игнорировать, что в dataframe есть dialogue_id

# Формируем prompt
from langchain import PromptTemplate

template = """The following is a friendly conversation between a human and an AI. 
The AI answer only in int format.
Current conversation:\n{history}\nHuman: {input}\nAI:"""

prompt_template = PromptTemplate(
    input_variables=['history', 'input'], 
    template=template
)

from langchain.chains import ConversationChain
from langchain.memory import ConversationBufferMemory

# создаём цепочку диалога, в параметры передаём языковую модель и память
memory = ConversationBufferMemory()
conversation = ConversationChain(
    prompt=prompt_template,
    llm=llm,  # языковая модель
    memory = memory, # модуль памяти, теперь мы запоминаем
    # verbose=True # отображать логи в консоли или нет
)

from tqdm import tqdm
tqdm.pandas()

class DialogueProcessor:
    def __init__(self):
        self.current_dialogue_id = None
        self.model_answers = []  # Store model answers

    def create_answer(self, row):
        # Check if the dialogue_id has changed and reset the memory if needed
        if row['dialogue_id'] != self.current_dialogue_id:
            memory.clear()  # Clear memory if dialogue_id changes
            self.current_dialogue_id = row['dialogue_id']
        
        # Generate model answer based on the question
        model_answer = conversation.invoke(row['question'])['response']

        try:
            self.model_answers.append(int(model_answer))  # Store the answer
        except ValueError:
            self.model_answers.append(None)

    def process_dialogues(self, df):
        # Apply the function to each row with tqdm progress bar
        df.progress_apply(self.create_answer, axis=1)

# Example usage:
dialogue_processor = DialogueProcessor()

# Limit test sample
# dialogue_processor.process_dialogues(df.head(5))
dialogue_processor.process_dialogues(df)