# Reconhecimento de tokens

Anteriormente vimos como se podem expressar padrões utilizando expressões regulares.

Assim sendo, vamos definir as expressões regulares para os tokens do seguinte excerto duma linguagem:

![](https://2105802016-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FP0B5wWrJT1pz8LDXyP2I%2Fuploads%2FrASEMmHQBouYIsqavkiT%2Fa.png?alt=media\&token=867e5c31-f7ce-4836-a649-83eb5683e4d7)

Os símbolos terminais desta gramática são: **if**, **then**, **else**, **relop**, **id** e **number**.

Os padrões para reconhecer estes tokens podem ser descritos com expressões regulares:

![](https://2105802016-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FP0B5wWrJT1pz8LDXyP2I%2Fuploads%2FNpwm2SHC9BJaVGBqhRJn%2Fa.png?alt=media\&token=03a56c21-20c5-4bb0-ad61-74b9d7badf2a)

Adicionalmente, o analisador léxico deve reconhecer e eliminar os caracteres correspondentes ao espaço em branco:

* *ws* -> (*blank* | *tab* | *newline*)+

Vamos tentar construir um analisador léxico que para além de reconhecer os tokens crie a seguinte informação:

![](https://2105802016-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FP0B5wWrJT1pz8LDXyP2I%2Fuploads%2FIQPixQjOop7GkUK5j6PM%2Fa.png?alt=media\&token=70447015-3eed-410b-8f4d-f90c8be77a19)

## Diagramas de transição

Como passo intermédio para a construção do analisador léxico, vamos converter “à mão” as expressões regulares em máquinas de estados (representadas por *diagramas de transição*).

Veremos mais à frente que este processo pode ser sistematizado recorrendo a *autómatos finitos*.

Os diagramas de transição contêm uma colecção de estados (representados por círculos).

Cada estado representa uma sequência de condições que ocorreram no processo de reconhecimento léxico.

Isto é, cada estado representa o que já aconteceu até esse ponto no reconhecimento da sequência de caracteres de entrada no analisador.

As transições são dirigidas de um estado para outro, e são anotadas com a entrada que lhes corresponde.

![](https://2105802016-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FP0B5wWrJT1pz8LDXyP2I%2Fuploads%2F0J3gTBGoSHUpqWFpmPaT%2Fa.png?alt=media\&token=f9daa035-5e86-4810-8c0b-8e8002502206)

As convenções a aplicar a estes diagramas são as seguintes:

1. Cada estado é representado por um círculo e tem a si associado um rótulo que o identifica (em geral, um número ou uma letra).
2. Alguns estados são considerados como *finais* (ou de aceitação). Estes estados indicam que um *token* foi reconhecido. Estes estados são representados com um círculo duplo.
3. Se, por necessidade, tiver sido consumido um carácter a mais nesse processo de aceitação final, o nó que lhe corresponde será anotado com um asterisco.
4. As transições entre estados são representadas por setas anotadas com o carácter que a despoleta.
5. Um estado é designado como estado inicial, sendo indicado por uma transição (seta) sem estado de origem.

Na construção destes diagramas vamos simplesmente enumerar novos estados por cada transição resultante de um carácter que, de alguma forma, avance no reconhecimento do *token*.

O diagrama de transição para reconhecer os operadores relacionais pode ser o seguinte:

![](https://2105802016-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FP0B5wWrJT1pz8LDXyP2I%2Fuploads%2FpVOZYNWNMDsFRO5uGyFs%2Fa.png?alt=media\&token=6764a911-d86a-4aae-91e3-b4336f5a0379)

Note que, para este tipo de *tokens*, este diagrama é uma estrutura de dados tipo árvore (deitada). Isso acontece em *tokens* fixos como o exemplificado ou as palavras reservadas.

O diagrama de transição para identificadores:

![](https://2105802016-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FP0B5wWrJT1pz8LDXyP2I%2Fuploads%2FtJu8N4Hf6nJQcj3epcYE%2Fa.png?alt=media\&token=2be7b9df-c9e7-4f9c-845d-6c12f435d71a)

O reconhecimento de identificadores pode levantar um problema de ambiguidade.

De facto, as palavras reservadas da linguagem (ex: then) também podem ser reconhecidas como identificadores.

Para resolver este problema, os analisadores léxicos dão prioridade a *tokens* que consomem mais caracteres e, em caso de conflito, estabelecem diferentes prioridades entre estes.

Assim, o conflito entre identificadores e palavras reservadas é resolvido dando mais prioridade a estas.

O diagrama de transição para palavras reservadas é aqui exemplificado com o token then:

![](https://2105802016-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FP0B5wWrJT1pz8LDXyP2I%2Fuploads%2FQ9ElSqgVaBoO3VYuoE85%2Fa.png?alt=media\&token=77256fee-3348-4db9-86eb-953e91fb9b6e)

O diagrama de transição para números:

![](https://2105802016-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FP0B5wWrJT1pz8LDXyP2I%2Fuploads%2Ffz8xPfLgCfMkdJJi9nrv%2Fa.png?alt=media\&token=505cf1cc-3ce8-4a1e-9cf2-1283ca04126e)

O diagrama de transição para espaço em branco:

![](https://2105802016-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FP0B5wWrJT1pz8LDXyP2I%2Fuploads%2FjPnl7siQRBGmbJwwPvJm%2Fa.png?alt=media\&token=651a9430-f79a-4421-b59d-fb4856f65ca4)

Agora podemos traduzir de uma forma quase automática os diagramas de transição para analisadores léxicos:

![](https://2105802016-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FP0B5wWrJT1pz8LDXyP2I%2Fuploads%2FwRCwWzs75ycXgWXJBrvF%2Fa.png?alt=media\&token=afac83db-4ff5-4075-b434-9874d7e010d8)

Note que nos estados que requerem um carácter para fazerem uma transição {0;1;6}, é invocada a função *nextChar*; assim como os estados com asterisco, o carácter a mais é reposto com a função *retract*.

Podemos implementar uma função por tipo de token (*getID, getReserved, getWS, getnumber*), e depois invocar sequencialmente cada uma delas (até que uma seja bem sucedida).

![](https://2105802016-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FP0B5wWrJT1pz8LDXyP2I%2Fuploads%2F08oGzsVqGqIjWlQpo2yr%2Fa.png?alt=media\&token=c7335235-e49b-4e70-b265-3ec72a5547dc)

No entanto, esta solução não é a mais eficiente já quem na presença de falhas, estamos a rebobinar a fila de caracteres de entrada.

Alternativamente, podemos tentar executar os vários diagramas em paralelo.

Se se utilizar uma numeração diferente nos estados de cada token (como foi feito neste exemplo), a melhor solução será simplesmente juntar todas as máquinas de estados numa única.

Esta solução não só pode ser automatizada, como também é bastante eficiente (isso pode ser medido pelo número de vezes em que é necessário voltar atrás no consumo de caracteres, i.e. nas invocações da função retract).

As máquinas que permitem uma aproximação automática a este problema são os chamas autómatos finitos (como veremos, os diagramas de transição apresentados descrevem autómatos finitos deterministas incompletos).

![](https://2105802016-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FP0B5wWrJT1pz8LDXyP2I%2Fuploads%2Fcp4P4VrZEOnkF1brxYPF%2Fa.png?alt=media\&token=2473b04f-f0c6-49b4-a3f3-3035fa32f1e0)
