Otimização de modelos de linguagem largos para tarefas de geração de texto e respostas a perguntas

Carregando...
Imagem de Miniatura
Data
2023-07-12
Título da Revista
ISSN da Revista
Título de Volume
Editor
Universidade do Estado da Bahia
Resumo

Robôs de serviço são projetados com o intuito de executar atividades corriqueiras e domésticas como tirar o lixo, navegar por um determinado espaço, detectar e buscar objetos, entre outras. Para isso, estas máquinas têm a necessidade de serem cada vez mais autônomas, e capazes de executar tarefas físicas e cognitivas. Tudo isso perpassa por uma interação humano-robô, onde o ser humano repassa para o robô um determinado comando ou ação e ele inicia a tarefa. Para isso, é possível utilizar ferramentas de reconhecimento e detecção de voz afim de garantir uma comunicação através de linguagem natural dos seres humanos. Contudo obter respostas abrangentes e contextualizadas para determinadas perguntas ou temas acaba sendo um desafio por parte do robô que necessita de informações estáticas e prévias gerando respostas iguais e engessadas. Isso se torna uma limitação visto que não é possível gerar um diálogo natural e intuitivo entre o humano e a máquina. Nesse contexto, o objetivo desta pesquisa é treinar e ajustar modelos de linguagem largos como uma forma de auxiliar na geração de textos e respostas dinâmicas. A metodologia utilizada baseia-se na escolha de modelos de linguagem largos, ajuste fino e treinamento dos modelos para geração de texto e tarefas de respostas a perguntas. Como ferramentas de validação foram utilizadas duas métricas de desempenho, F1-Score para o modelo de respostas e perguntas e ROUGE para o modelo de geração de textos. Além disso foi feito um experimento utilizando a escala Likert como avaliação real da utilização do modelo de QA (Question Answering). O alvo deste projeto é o robô de serviço Bot Intelligent Large Capacity And Low Cost (BILL), que faz parte da linha de pesquisa @Home, do ACSO - Centro de Pesquisa em Arquitetura de Computadores, Sistemas Inteligentes e Robótica da Universidade do Estado da Bahia - UNEB.


Descrição
Palavras-chave
Citação
SILVA, Lázaro Queiroz da. Otimização de modelos de linguagem largos para tarefas de geração de texto e respostas a perguntas. Orientadora: Ana Patrícia Fontes Magalhães Mascarenhas. 2023. 78 f. Trabalho de conclusão de curso (Bacharelado em Sistemas de Informação) - Departamento de Ciências Exatas e da Terra, Campus I, Universidade do Estado da Bahia. Salvador- BA, 2023.
Palavras-chave