| Título : | Analyzing constrained LLM through PDFA-learning |
| Autor(es) : | Carrasco, Matías Mayr, Franz Yovine, Sergio Kidd, Johny Iturbide, Martín da Silva, Juan Garat, Alejo |
| Fecha de publicación : | 7-jul-2024 |
| Tipo de publicación: | Preprint |
| Areas del conocimiento : | Ciencias Naturales y Exactas Ciencias de la Computación e Información Ciencias de la Computación |
| Otros descriptores : | Inteligencia artificial generativa Grandes modelos de lenguaje |
| Resumen : | We define a congruence that copes with null next-symbol probabilities that arise when the output of a language model is constrained by some means during text generation. We develop an algorithm for efficiently learning the quotient with respect to this congruence and evaluate it on case studies for analyzing statistical properties of LLM. |
| URI / Handle: | https://hdl.handle.net/20.500.12381/3624 |
| Otros recursos relacionados: | https://arxiv.org/abs/2406.08269 |
| Institución responsable del proyecto: | Universidad ORT Uruguay |
| Financiadores: | Agencia Nacional de Investigación e Innovación |
| Identificador ANII: | IA_1_2022_1_173516 FMV_1_2023_1_175864 |
| Nivel de Acceso: | Acceso abierto |
| Licencia CC: | Reconocimiento 4.0 Internacional. (CC BY) |
| Aparece en las colecciones: | Publicaciones de ANII |
Archivos en este ítem:
| archivo | Descripción | Tamaño | Formato | ||
|---|---|---|---|---|---|
| 2406.08269v2.pdf | Descargar | 579.73 kB | Adobe PDF |
Las obras en REDI están protegidas por licencias Creative Commons.
Por más información sobre los términos de esta publicación, visita:
Reconocimiento 4.0 Internacional. (CC BY)