Texto originalmente traduzido do https://medium.com.
Fonte:https://blog.cubed.run/100-accurate-ai-claimed-by-acurai-openai-and-anthropic-confirm-acurais-discoveries-98fce1ddeb5b

As notícias impressionantes da Acurai de ter descoberto como os LLMs (Modelos de Linguagem de Grande Escala) operam agora são confirmadas por estudos conduzidos pela OpenAI e Anthropic.

Em março de 2024, esta autora publicou “Elimine as Alucinações dos Chatbots — ISTO MESMO!, Elimine-as”. Este artigo fez a audaciosa afirmação de que os LLMs se auto-organizam em torno de Frases Nominais; e que o comportamento dos LLMs pode ser controlado através da manipulação de Frases Nominais. Estudos recentes da Anthropic e da OpenAI agora confirmam empiricamente essas verdades. Esta é uma notícia FANTÁSTICA! Afinal, essas verdades são a base para eliminar as alucinações — sim, eliminá-las.

Modelo de Dominância de Frases Nominais

Em março de 2024, foi apresentado a seguinte a descoberta revolucionária do “Modelo de Dominância de Frases Nominais”: https://www.michaelcalvinwood.net/docs/Relevant-and-Accurate-AI–Public.pdf

This present inventor’s Noun-Phrase Collision Model led to the development of the higher-level Noun-Phrase Dominance Model — the model that is the key to using LLM token prediction to consistently generate factually accurate output. The Noun-Phrase Dominance Model is perhaps best understood from the perspective of another type of neural network — CNNs (Convolutional Neural Networks).

CNNs are often used for image identification. For example, CNNs can be trained to distinguish images of people, pets, boats, etc. CNNs consist of multiple layers of neurons. Remarkable, during training, these layers self-organize themselves. For example, the early layers self-organize around detecting simple patterns such as edges and textures. The latter layers selforganize by combining the information from earlier layers into more complex patterns like shapes — shapes including the recognition of eyes, ears, legs, steering wheels, etc.

No one tells the CNN to do this. Even though CNNs are merely a collection of neurons with probabilistic weights and biases, CNNs automatically self-organize in this manner in order to fulfill the training objective. While much is discussed in the literature regarding the selforganizing nature of CNN neural networks, little if anything is discussed regarding the selforganizing nature of Transformer Neural Networks — the type of neural network used to construct the most popular Large Language Models such as ChatGPT.

This present inventor’s Noun-Phrase Dominance Model states that neural networks self organize around noun phrases during the training of Large Language Models.

emphasiS

O artigo discute então o controle do comportamento do LLM (por exemplo, garantindo respostas 100% precisas) por meio da manipulação de frases nominais enviadas na consulta e passagens em chatbots baseados em RAG.

Estudos da Anthropic e da OpenAI agora confirmam o modelo de dominância de sintagma nominal. LLMs são construídos a partir de múltiplas camadas. Em outras palavras, a entrada (prompt) passa por muitas camadas para gerar a saída.

Cada camada contém muitos neurônios. Cada neurônio tem vários valores que aprendeu durante o treinamento (como pesos e vieses). O modelo de dominância de sintagma nominal diz que os neurônios não operam por conta própria, mas se auto-organizam em torno de sintagmas nominais. Tanto a OpenAI quanto a Anthropic descobriram recentemente que essa é a verdade empírica — a maneira real como os LLMs operam sob o capô.

Conforme relatado pela Axios AI+ em 23 de agosto de 2024:

One way AI researchers are trying to understand how models work is by looking at the combinations of artificial neurons that are activated in an AI model’s neural network when a user enters an input.

These combinations, referred to as “features,” relate to different places, people, objects and concepts.

Researchers at Anthropic used this method to map a layer of the neural network inside its Claude Sonnet model and identified different features for people (Albert Einstein, for example) or concepts such as “inner conflict.”

They found that some features are located near related terms: For example, the “inner conflict” feature is near features related to relationship breakups, conflicting allegiances and the notion of a catch-22.

When the researchers manipulated features, the model’s responses changed, opening up the possibility of using features to steer a model’s behavior.

OpenAI similarly looked at a layer near the end of its GPT-4 network and found 16 million features, which are “akin to the small set of concepts a person might have in mind when reasoning about a situation,” the company said in a post about the work.

Bolded

• Primeiro, observe que a Anthropic e a OpenAI agora confirmam nos testes que os neurônios de fato se auto-organizam, exatamente como o Modelo de Dominância Substantiva-Frase declarou.
• Segundo, observe que a auto-organização não é em torno de verbos, adjetivos, advérbios, etc. Em contraste gritante, os neurônios se auto-organizam em torno de “lugares, pessoas, objetos e conceitos”. Em outras palavras, os neurônios se auto-organizam em torno de frases nominais — assim como o Modelo de Dominância Frase-Nome declarou.
• Terceiro, os agrupamentos de sintagmas nominais (ou seja, características) agrupam “termos quase relacionados”, afirmando a existência de Rotas de Frases Nominais — assim como o Modelo de Dominância de Frases Nominais declarou.
• Quarto, observe que a Anthropic e a OpenAI descobriram que a manipulação de frases nominais pode ser usada para “orientar o comportamento de um modelo” — assim como o Modelo de Dominância de Frases Nominais declarou.

Elimine alucinações — sim, IA SEM ERRO!

Esta é uma notícia INCRÍVEL! Afinal, o Modelo de Dominância de Frases Nominais é a chave para eliminar alucinações.

No entanto, a comunidade de pesquisa de alguma forma ignorou este modelo — ao mesmo tempo em que continua a proclamar que as alucinações são um problema intratável.

Desde o artigo de março de 2024, FOI DEMONSTRADO no mundo real como documentar o Modelo de Dominância de Frases Nominais e explica como esta é a chave para construir chatbots 100% precisos e livres de alucinações

. O Modelo de Dominância de Frases Nominais é real. E também a solução para finalmente eliminar as alucinações de uma vez por todas. Você pode construir chatbots 100% precisos… hoje mesmo.