how to generate new bullet points in the summary and edit #10559
Replies: 2 comments 2 replies
-
|
🤖 Olá, Para poder ajudá-lo melhor, preciso de algumas informações adicionais. Você poderia fornecer mais detalhes sobre o que você quer dizer com "mudar um ponto específico enquanto mantém o contexto dos outros que foram gerados"? Você está se referindo a alterar o conteúdo de um ponto de bala específico após a geração, ou você está se referindo a influenciar o conteúdo de um ponto de bala durante a geração? Além disso, quando você diz "gerar novos bullets", você quer dizer adicionar mais pontos de bala ao resumo existente ou gerar um novo conjunto de pontos de bala? Qualquer informação adicional que você possa fornecer sobre o comportamento desejado ajudará a esclarecer sua pergunta e permitirá que eu forneça uma resposta mais precisa. Obrigado! This response is meant to be useful and save you time. It is not meant to be a precise solution, but rather a starting point for your own research. Help me be more useful! Please leave a 👍 if this is helpful and 👎 if it is irrelevant. If you want to continue the conversation, start your reply with @dosu-bot. |
Beta Was this translation helpful? Give feedback.
-
|
Hello, |
Beta Was this translation helpful? Give feedback.
-
|
🤖 Olá, Para gerar um novo ponto de bala sem perder o contexto do texto, você pode considerar a criação de uma função que aceita o texto original e o índice do ponto de bala que você deseja substituir. Esta função pode então gerar um novo resumo, substituir o ponto de bala no índice especificado e retornar o novo resumo. No entanto, isso pode não garantir que o novo ponto de bala seja contextualmente relevante para os outros pontos de bala, pois cada resumo é gerado independentemente. Quanto à especificação do número de pontos de bala em um resumo, atualmente não parece haver uma maneira direta de fazer isso com o LangChain. A quantidade de pontos de bala gerados é determinada pelo modelo de linguagem e pelo prompt que você está usando. Uma possível solução seria modificar o prompt para solicitar um número específico de pontos de bala, mas isso pode não funcionar de forma consistente, pois o modelo de linguagem não é garantido para seguir as instruções do prompt ao pé da letra. Espero que isso ajude, e por favor, deixe-me saber se você tem mais perguntas! Dosu SourcesThis response is meant to be useful and save you time. It is not meant to be a precise solution, but rather a starting point for your own research. Help me be more useful! Please leave a 👍 if this is helpful and 👎 if it is irrelevant. If you want to continue the conversation, start your reply with @dosu-bot. |
Beta Was this translation helpful? Give feedback.
-
|
Hi, Thank you very much from fastapi import FastAPI
from fastapi.middleware.cors import CORSMiddleware
from pydantic import BaseModel, Field
from langchain.llms import VertexAI
from langchain import PromptTemplate
from langchain.docstore.document import Document
from langchain.text_splitter import CharacterTextSplitter
from langchain.chains.summarize import load_summarize_chain
from typing import List
app = FastAPI()
app.add_middleware(
CORSMiddleware,
allow_origins=["*"], # Isso permite todas as origens (CORS curinga)
allow_credentials=True,
allow_methods=["*"], # Isso permite todos os métodos HTTP (GET, POST, etc.)
allow_headers=["*"], # Isso permite todos os cabeçalhos HTTP
)
class TextInput(BaseModel):
text: str
bulletPoint: str = Field(default=None)
numBulletPoints: str = Field(default=None)
allBulletPoints: List[str] = Field(default=None)
class BulletPoint(BaseModel):
bullet: str
# Instantiate the LLM model
llm = VertexAI(
model_name="text-bison@001",
max_output_tokens=1024,
temperature=0,
top_p=0.8,
top_k=40,
verbose=True,
)
def generate_response(txt: str, numBulletPoints: int) -> List[BulletPoint]:
combine_prompt = f"""
Como um editor especializado, sua tarefa é resumir o texto a seguir em tópicos concisos, utilizando a língua portuguesa.
Por favor, retorne sua resposta em bullets points que abordem os principais pontos do texto.
Quantidade de bullets points solicitados: {numBulletPoints}
--- Início do Texto ---
{{text}}
--- Fim do Texto ---
BULLET POINT RESUMO:
"""
combine_prompt_template = PromptTemplate(template=combine_prompt, input_variables=["text"])
# Split text
text_splitter = CharacterTextSplitter()
texts = text_splitter.split_text(txt)
# Create multiple documents
docs = [Document(page_content=t) for t in texts]
# Text summarization
chain = load_summarize_chain(llm, chain_type='map_reduce', combine_prompt=combine_prompt_template, verbose=True)
output_summary = chain.run(docs)
# Convert the output to a list of bullet points
bullets = output_summary.strip().split('\n')
return [BulletPoint(bullet=bullet) for bullet in bullets]
def generate_new_bullet_response(txt: str, bulletPoint: str, allBulletPoints: List[str]) -> List[BulletPoint]:
all_bullet_points_str = ', '.join([str(item) for item in allBulletPoints])
combine_prompt = f"""
Como um editor especializado, sua tarefa é criar resumos concisos do texto a seguir.
Refaça o bullet point a seguir, levando em consideração o contexto do texto e evitando duplicações com os outros bullets já gerados:
Bullet point a ser refeito:
{bulletPoint}
Bullets points já gerados:
{all_bullet_points_str}
Texto original:
```
{{text}}
```
BULLET POINT RESUMO:
"""
combine_prompt_template = PromptTemplate(template=combine_prompt, input_variables=["text"])
# Split text
text_splitter = CharacterTextSplitter()
texts = text_splitter.split_text(txt)
# Create multiple documents
docs = [Document(page_content=t) for t in texts]
# Text summarization
chain = load_summarize_chain(llm, chain_type='map_reduce', combine_prompt=combine_prompt_template, verbose=True)
output_summary = chain.run(docs)
# Convert the output to a list of bullet points
bullets = output_summary.strip().split('\n')
return [BulletPoint(bullet=bullet) for bullet in bullets]
@app.post("/generate_summary/", response_model=List[BulletPoint])
async def generate_summary(text_input: TextInput):
response = generate_response(text_input.text, text_input.numBulletPoints)
return response
@app.post("/generate_new_summary/", response_model=List[BulletPoint])
async def generate_new_bullet(text_input: TextInput):
response = generate_new_bullet_response(text_input.text, text_input.bulletPoint, text_input.allBulletPoints)
return response
if __name__ == "__main__":
import uvicorn
uvicorn.run(app, host="0.0.0.0", port=8000) |
Beta Was this translation helpful? Give feedback.
-
Hey everyone,
Hopefully, someone can help clarify the following problem:
I need help generating summaries using langchain
When generating bullets points, I would like to be able to change a specific one while maintaining the context of the others that have been generated, or to be able to generate new bullets.
Can you help me if it's possible to do this with langchain and which way to go?
```python import streamlit as st from langchain.llms import VertexAI from langchain import PromptTemplate from langchain.docstore.document import Document from langchain.text_splitter import CharacterTextSplitter from langchain.chains.summarize import load_summarize_chain def generate_response(txt): # Instantiate the LLM model llm = VertexAI( model_name="text-bison@001", max_output_tokens=1024, temperature=0.3, top_p=0.8, top_k=40, verbose=True, ) combine_prompt = """ Seja um editor especialista, seu trabalho é criar resumos conciso do texto a seguir. Retorne sua resposta em marcadores que cubram os pontos-chave do texto. ``` {text} ``` BULLET POINT RESUMO: """ combine_prompt_template = PromptTemplate(template=combine_prompt, input_variables=["text"]) # Split text text_splitter = CharacterTextSplitter() texts = text_splitter.split_text(txt) # Create multiple documents docs = [Document(page_content=t) for t in texts] # Text summarization chain = load_summarize_chain(llm, chain_type='map_reduce', combine_prompt=combine_prompt_template, verbose=True) output_summary = chain.run(docs) #print(output_summary) return output_summary # Page title st.set_page_config(page_title='🦜🔗 Summarization App') st.title('🦜🔗 Summarization App') # Text input txt_input = st.text_area('Digite seu texto:', '', height=200) # Form to accept user's text input for summarization result = [] with st.form('summarize_form', clear_on_submit=True): submitted = st.form_submit_button('Gerar resumo') if submitted: with st.spinner('Aguarde..'): response = generate_response(txt_input) result.append(response) if len(result): #st.info(response) bullets = response.strip().split('\n') for i in bullets: st.info(i) st.button("Gerar um novo bullet", key=i) ```Beta Was this translation helpful? Give feedback.
All reactions