LangChain🦜🔗: Det kraftfulla ramverk som revolutionerar applikationer för språkmodeller

LangChain🦜🔗: Det kraftfulla ramverk som revolutionerar applikationer för språkmodeller

Vad är LangChain?

LangChain är ett kraftfullt ramverk utformat för att revolutionera utvecklingen av applikationer som drivs av språkmodeller. Språkmodeller som ChatGPT och Llama är otroligt mångsidiga och utmärker sig inom ett brett spektrum av uppgifter. De kan dock stöta på utmaningar när det gäller att ge precisa svar eller att lösa uppgifter som kräver djup domänkunskap eller expertis. Det är här LangChain kommer till undsättning.

Till exempel — Med hjälp av LangChain kan vi träna en LLM som ChatGPT på en anpassad datamängd med restaurangrecensioner. Datamängden innehåller specifik information om olika kök, atmosfär och servicekvalitet.

Nu, när du ställer ChatGPT en precis fråga som "Vilken restaurang erbjuder den bästa sushi i stan?", kan ChatGPT, som har finjusterats på den anpassade datamängden med restaurangrecensioner, ge ett mer exakt och specifikt svar. Det kan dra från sin kunskap om datamängden för att rekommendera restaurangen med högst klassad sushi baserat på kundrecensioner.

Läs mer: Officiell dokumentation

Låt oss bygga en liten applikation

I den här artikeln visar jag en steg-för-steg-guide för att bygga en dokumentläsare med LangChain och HuggingFace. Jag kommer att använda Google Colab som plattform för att bygga applikationen

1. Skapa en ny anteckningsbok i Google Collab och installera alla nödvändiga beroenden

Klicka på "New Notebook" eller gå till "File" > "New Notebook" för att skapa en ny Colab-anteckningsbok och installera dessa beroenden nedan.

2. Få HuggingFace API-nyckeln

Om du inte redan har ett Hugging Face-konto måste du skapa ett. Du kan registrera dig för ett konto på Hugging Face-webbplatsen.

När du är inloggad går du till avsnittet Profil genom att klicka på din profilikon i det övre högra hörnet och väljer "Settings" från rullgardinsmenyn.

Gå sedan till avsnittet Access Tokens och skapa en ny token

Skapa sedan en ny kodcell och lägg till koden nedan —

Ersätt dummy-strängen med din API-nyckel och kör koden.

3. Skapa inbäddningar och ett vektorlager för fråga-och-svar

I många språkmodellapplikationer (LLM) uppstår ofta ett krav på användarspecifik data som inte var en del av modellens ursprungliga träningsdatamängd. LangChain utrustar dig med de nödvändiga elementen för att importera, transformera, lagra och effektivt fråga din anpassade data.

Processen omfattar fem distinkta steg:

1. Dokumentladdning: Detta steg är ansvarigt för att importera data i form av dokument.
2. Dokumentsegmentering: Här genomgår dokumentet segmentering och bryts ned i mer hanterbara bitar.
3. Genereering av inbäddningar: I detta steg transformeras dessa bitar till vektorrepresentationer, även kända som inbäddningar.
4. Vektorlager: Denna komponent fungerar som ett arkiv för att lagra de nämnda bitarvektorerna i en dedikerad vektordatabas.
5. Hämtningsmekanism: Det sista steget omfattar en hämtningsmekanism. Den används för att hämta en eller flera uppsättningar vektorer som uppvisar högsta likhet med en fråga, där både frågan och lagrade vektorer finns i samma latenta utrymme.

Nu börjar vi med att ladda dokumentet. Jag laddar en kort sammanfattning av Indiens konstitution genererad av ChatGPT.

Efter dokumentladdning delar vi upp längre textdokument i mindre, icke-överlappande bitar på 1000 tecken vardera

Efter dokumentsegmentering initialiserar vi våra inbäddningar. Vi använder inbäddningar som tillhandahålls av Hugging Face Transformers-biblioteket.

Nu konfigurerar vi ett vektorlager med Faiss. I huvudsak transformeras din textdata till vektorer med hjälp av den tillhandahållna inbäddningen, och Faiss används för att effektivt indexera och söka igenom dessa vektorer.

Nu laddar vi Googles flan-t5-xxl LLM från HuggingFace. Det är ett värdefullt verktyg för fråga-och-svar-uppgifter på grund av sitt text-till-text-tillvagagångssätt, förtränade och stora modelstorlek.

Låt oss sedan skapa en kedja med LangChain. Kedjor gör det möjligt för oss att samla flera komponenter till en sammanhängande applikation.

Vi skapar en enkel kedja: den börjar med en fråga och frågan skickas sedan till LLM.

För sammanhang är här delen av sammanfattningen från vilken LLM svarade —

"Preamble: Förorden till Indiens konstitution beskriver de ideal och mål som konstitutionens formgivare syftade till att uppnå. Det betonar Indien som en suverän, socialistisk, sekulär och demokratisk republik som strävar efter rättvisa, frihet, jämlikhet och broderskap för sina medborgare."

Låt oss ställa en annan fråga om det

Tillämpningar —

1. AI-chattar och virtuella assistenter: Fråga-och-svar-funktionerna inbäddade i denna kod lägger grunden för att skapa AI-chattar och virtuella assistenter som kan ge snabba, kontextmedvetna svar på användarfrågor. Det har tillämpningar inom kundsupport, e-utbildning och mer.
2. Pedagogiska verktyg: Lärare och studenter kan dra nytta av automatiserade fråga-och-svar för att klargöra tvivel och förbättra lärarupplevelsen. Det kan också användas för att generera utbildningsinnehål.
3. Content Recommendation Engines: Genom att förstå kontexten och avsikten bakom frågor kan denna kod användas för att utveckla innehållsrekommendationssystem som säkerställer att användare får mycket relevanta förslag.

För läsare som är intresserade av att dyka djupare in i dessa tillämpningar och utforska ytterligare verktyg för sina projekt, här är ett par värdefulla resurser:

Slutsats —

Den här artikeln visade hur LangChain kan användas vid utveckling av applikationer som drivs av språkmodeller och hur dess flexibla abstraktioner och omfattande verktygssamling gör det möjligt för utvecklare att utnyttja kraften i LLM.

I det ständigt utvecklande landskapet för AI har LLM framträtt som spelbytare, och vi är stolta över att vara en del av denna spännande resa mot en smartare och mer effektiv framtid. Vi ser fram emot att utnyttja LLM för att driva innovation, lösa komplexa utmaningar och ge ännu större värde till våra klienter och partners på MyNextDeveloper.