flyweight
SinOsc.kr([1, 3]).exprange(100, 2e3)
Waar ik me in wil verdiepen is RAG (Retrieval Augmented Generation): What is RAG? - Retrieval-Augmented Generation AI Explained - AWS
En uiteindelijk die vector db weer voor ML gebruiken.
Wat ik er dan van snap is dat je zo wezenlijk een LLM uitbreid met een persoonlijke .lib
Dit is dan ipv van .md files. dingen die maar terug blijven komen komen in de vector db.
1. RAG
2. RAG met ML in the mix.
Je persoonlijke bibliotheek verandert dan van een dumpplaats voor tekstbestanden (.md) in een zorgvuldig samengestelde selectie van nauwkeurige context."
En uiteindelijk die vector db weer voor ML gebruiken.
Wat ik er dan van snap is dat je zo wezenlijk een LLM uitbreid met een persoonlijke .lib
Dit is dan ipv van .md files. dingen die maar terug blijven komen komen in de vector db.
1. RAG
Rich (BB code):
[ Prompts ] ──► [ Convert to Vector ] ──► [ Search Vector DB ] ──► [ Insert Matches into Prompt ] ──► [ LLM Generates Answer ]2. RAG met ML in the mix.
Rich (BB code):
┌─────────────────────────────────┐
│ 1. ML QUERY TRANSFORMATION │
│ • Disambiguates terms │
│ • Expands technical synonyms │
└────────────────┬────────────────┘
│
▼
[ Your Query ] ──────────► [ Convert to Vector ] ──────────► [ Search Vector DB ]
│
▼
┌─────────────────────────────────┐ ┌─────────────────────────────────┐
│ [ LLM Generates Answer ] │ │ 2. ML RE-RANKING & FILTERING │
│ • Uses the absolute best │ │ • Cross-Encoder grading │
│ context chunks │ │ • Discards "false matches" │
└────────────────▲────────────────┘ └────────────────┬────────────────┘
│ │
└───────── [ Insert Top Matches into Prompt ] ◄───┘Je persoonlijke bibliotheek verandert dan van een dumpplaats voor tekstbestanden (.md) in een zorgvuldig samengestelde selectie van nauwkeurige context."
Zeker omdat ik al zo lang niet meer programmeer, ben ik zo roestig als wat en loop ik best achter op de ontwikkelingen. Met AI kan ik nu echt makkelijk demo's, prototypes en proof of concept dingetjes maken in een korte tijd, iets dat me vroeger echt gruwelijk veel meer tijd zou kosten voor zover het al binnen mijn vermogen lag. En wat ook zo fijn is, als je ergens bedenkt dat je het beter om kan gooien, is het zo gebeurd. Niet die frustratie van een dag (of langer) programmeerwerk weggooien door voortschrijdend inzicht of een denkfout. Ben nu bezig mijn Windows laptop geschikt te maken om die open source LXR-02 firmware te kunnen bouwen, en dan eens kijken of ik daar wijs uit kan worden.
