Ovaj mjesec je lansiran novi tip AI modela, a zanimljivo je ono što NE radi: postavite mu pitanje, i neće vam napisati odlomak ili pokušati razgovarati s vama. Umjesto toga, softveru daje strukturirani odgovor, kao što je izbor, ocjena ili vjerojatnost, i dizajniran je da to radi vrlo brzo i jeftino.
To je Jev, prvi model iz sanfranciskoskog startupa TypeSafe AI. Tvrtka se pojavila iz stealth moda 15. rujna sa sesantamilunskom inicijalno investicijom koju je predvodio DCVC. Njegov osnivač, Diogo Almeida, prethodno je radio u OpenAI-ju na istraživanju iza sustava koji slijede upute i koji su pridonijeli ChatGPT-u.
Ono što čini Jev zanimljivim nije nužno da će zamijeniti ChatGPT, Claude ili Gemini. To zapravo nije ono što pokušava učiniti. Veća ideja je da nije svaka odluka unutar softvera potrebna za neki veliki AI model koji razmišlja o njoj. Neke odluke su male, ponavljajuće, i dogode se tisuće puta dnevno. TypeSafe gradi Jev specifično za te trenutke, i to bi moglo promijeniti kako startupi razmišljaju o izgradi AI-potencirani proizvoda.
Što ako bi AI samo donio odluku?
Kada većina ljudi misli na AI, razmišljaju o chatbotu. Postavite nešto, model misli na to, i daje vam odgovor. Ali softver ima puno odluka koje se dogode u pozadini koje korisnici nikad ne vide.
Primakne poruka za podršku, a sustav treba odlučiti je li hitna. Kupac se prijavi, a proizvod treba odlučiti kojem planu ili toku rada pripadaju. Primakne transakcija, a sustav treba odlučiti izgleda li sumnjiva. AI agent završi jedan zadatak i treba odlučiti što bi trebao učiniti dalje.
Niti jedna od tih situacija nije nužno trebala dugačan pisan odgovor. Trebaju odluku.
To je problem koji TypeSafe pokušava riješiti s Jevom. Umjesto da tražite od velikog jezičnog modela da generiše tekst, a zatim da vaš softver shvati što taj tekst znači, Jev je dizajniran da vrati odgovor koji vaš softver može direktno koristiti.
Dakle, što je točno Jev?
Najjednostavniji način da razumijete Jev je da mislite na njega manje kao chatbot, a više kao na vrlo brz donošenja odluka koja sjednom unutar vaše aplikacije.
Daješ mu informacije o onome što se dogada i postavljaš specifično pitanje. Na primjer, kartica podrške bi mogla stigli, a vaš softver bi mogao pitati, "Je li ovo hitno?" ili "Koji bi tim trebao to obraditi?" Jev tada vraća strukturirani rezultat, kao što je vjerojatnost ili jedan od izbora koje ste definirali. Ta struktura je važna.
S tradicionalnim jezičnim modelom, mogli biste dobiti rečenicu koja objašnjava njegov odgovor, a vaš softver mora interpretirati taj odgovor. S Jevom, mogući odgovori su unaprijed definirani, tako da aplikacija zna kakvu vrstu rezultata će primiti.
TypeSafe opisuje to kao model "Sistem Jedan", dizajniran za brze i intuitivne odluke umjesto sporijeg, namjerenijeg razmišljanja povezanog s velikim jezičnim modelima.
To ne čini Jev pametnijom od chatbota u svemu. Čini ga korisnim za drugačiju vrstu posla.
Zašto su brzina i trošak važni
Ovo je gdje ideja postaje posebno zanimljiva za startupe.
TypeSafe kaže da Jev može vratiti odluke za otprilike 70 do 500 milisekundi i košta oko 0,042 USD po milijun ulaznih tokena, s izlaznim tokenima trenutno prijavljenim kao besplatni. Tvrtka također kaže da model može biti značajno brži i jeftiniji od konvencionalnih vrhunskih modela za vrste strukturiranih odluka za koje je dizajniran.
Ti brojevi su prijavljeni od tvrtke, tako da bi trebali biti tretirani kao rana traženja umjesto uspostavljenih industrijskih mjerila. Jev se je lansirano tek u září 2026., što znači da nije bilo neovisnog testiranja u proizvodnji, ali je osnovna ekonomska ideja laka za razumijevanje.
Ako vaša aplikacija mora donijeti malu AI odluku jednom dnevno, cijena i brzina vjerojatno nisu važne, ali ako mora donijeti tu odluku stotine tisuća ili milijune puta, oni postaju značajni.
Sićušna šteda na jednom zahtjevu može postati značajna smanjenja troškova kada vaš proizvod prima milijune zahtjeva svaki mjesec.
Što Jev stvarno može učiniti?
Zamislite internetsku trgovinu koja prima 100.000 poruka kupaca svaki mjesec. Niste nužno trebali svoju najskupniju AI model da čita svaku poruku i napišete detaljnu poruku samo da biste odlučili trebala li poruka biti fakturiranje, tehnička podrška ili prodaja. Mogli biste koristiti brz model odluke za rukovanje tim prvim korakom.
Ista ideja bi mogla raditi za pronalaženje potencijalno lažnih transakcija, odlučivanje kojoj AI model trebao rukovati određenim zahtjevom, rangiranje dolaznih informacija, ili odlučivanje trebala li AI agent nastaviti automatski ili tražiti pomoć od čovjeka.
To su vrsta fokusiranih odluka za koje TypeSafe kaže da je Jev dizajniran da bavi. Važna reč ovdje je fokusiran.
Jev nije namijenjen da napiše vašu blog prijave, objasni komplicirani predmet, ili ima dugačka razgovor s vašim kupcem. Namijenjen je da odgovori na mnogo manje pitanje koje pomaže vašem softveru da odluči što će se dogoditi dalje.
Jev ne zamjenjuje vaš postojeći AI
Ovo je vjerojatno najvažnije što osnivači trebaju razumjeti.
Jev nije nužno alternativa AI modelu koji već koristite. Može sjediti pokraj njega.
Zamislite AI sustav za korisniku podršku. Veliki jezični model mogao bi biti odgovoran za razumijevanje kompliciranog problema kupca i pisanje stvarnog odgovora. Ali prije nego što se to dogodi, možda bi trebala biti donošena mnogo manja odluka: Je li ta poruka hitna? Kojem odjelu bi trebala vidjeti? Trebala li to ljudska pretraga?
Nema razloga da koristite najskupniji model za svaku od tih odluka.
Mogli biste koristiti brz, strukturirani model za jednostavnu dijelove i uštedjeti sposobniji model za rad koji zapravo zahtijeva dublje razmišljanje ili generiranje jezika.
To je arhitektura koju TypeSafe potiče razvojne programe da razmišljaju: različiti modeli koji obavljaju različite poslove umjesto traženja od jednog modela da učini sve.
Zanimljivi dio nije model; to je arhitektura.
Ovo je gdje Jev postaje relevantan osnivačima i inženjeri voditeljima.
Zanimljivo pitanje nije jednostavno, "Trebali bismo koristiti Jev?" Nego, "Koji dijelovi našeg proizvoda zapravo trebaju moćan jezični model, a koji dijelovi trebaju samo brzu odluku?" To je pitanje koje zahtijeva dobru inženjerskrnu prosudbu.
Ako koristite veliki model za svaku sitnu odluku, možda ćete trošiti više novca i čekati duže nego što je potrebno. Ali ako koristite visoko strukturirani model za nešto što zahtijeva istinito razmišljanje ili kreativnost, mogli biste završiti prisiljavanjem kompliciranog problema u sustav koji nije dizajniran za njega.
Vještina je poznavanja razlike, a kako AI postaje veći dio softvera, ta razlika će vjerojatno biti važnija.
Što ovo bi moglo značiti za startupe
Ne trebate odmah promijeniti cijeli AI stack jer je novi model lansiran.
Jev je još uvijek vrlo novi, a rani pristup znači da startumi trebaju pažljivo testirati prije nego što ponijese važne odluke proizvodnje potpuno u njegove ruke. Brz odgovor je koristan samo ako je odgovor dovoljno pouzdan za posao, ali ideja iza njega vrijedna je pozornosti.
Godinama, razgovor o AI uglavnom je bio o tome da se modeli učine veći, pametniji i bolji u razgovoru s ljudima.
Jev predstavlja drugačiti smjer: AI koji ne mora razgovarati s vama. Može jednostavno donijeti malu odluku i pustiti ostatak vašeg softvera da nastavi.
To može zvučati manje impresivno od chatbota koji piše cijelu aplikaciju za vas, ali bi moglo biti mnogo važnije za svakodnevni softver koji ljudi zapravo koriste.
Sve se svodi na prosudbu
Trebala li Jev sama postane standardan dio AI stack-a je još uvijek otvoreno pitanje. Prekrano je znati to, ali problem koji TypeSafe pokušava riješiti je stvaran.
AI-potencirirani proizvodi trebat će donijeti milijune malih odluka u pozadini. Kako ti proizvodi rastu, tvrtke će se više brinuti o tome kako brzo se te odluke dogode, koliko koštaju, kako predvidljivi su rezultati, i kada bi sustav trebao uključiti čovjeka.
To znači da AI arhitektura postaje manje o pronalaženju jednog modela koji radi sve i više o shvaćanju kojeg modela trebao obaviti koji posao.
Za startupe, to je važna promjena.
Jer izrada AI proizvoda nije više samo o imanju pristupa najnovijem modelu. Radi se o inženjeri koji mogu pogledati cijeli sustav, razumjeti gdje AI zapravo dodaje vrijednost, i donošenju pametnih odluka o gdje ga koristiti.
To je vrsta inženjerskr prosudbe koju MyNextDeveloper pomaže startupima pronaći, povezujući ih s provjerim inženjeri i AI talentom koji mogu raditi s novom AI infrastrukturom i shvatiti gdje stvarno pripada u proizvodu.
TL;DR
Novi AI model nazvan Jev je upravo lansiran, i graden je da radi nešto potpuno drugačije od ChatGPT-a ili Claude-a: umjesto da vam piše odgovor, samo donosi brzu odluku i vraća ocjenu pouzdanosti, u manje od 70 milisekundi, za sitnu dio cijene. Nije namijenjen da zamijeni AI s kojim već razgovarate; namijenjen je da obradi konstantne male odluke koje tiho se dogode iza scena, kao što je sortiranje kartice podrške ili označavanje rizične transakcije, tako da ne plaćate pune cijene chatbota za jednostavne da-ili-ne pozive. Rani razvojni programi već ga spajaju sa svojim postojećim AI: pametni model za pravo razmišljanje, Jev za brze reflekse. Potpuno je novi, tako da ga tretirati kao obećavajuće nego dokazano, ali to je pravi signal da AI proizvodi počinju trebati više od jedne vrste modela koji rade zajedno.
Želite li izgraditi visokoučinkovat dalinski tech tim?
Pogledajte MyNextDeveloper, platformu gdje možete pronaći vrh 3% softverskih inženjera koji su duboko strasti prema inovacijama. Naša ponuda, posvećena i temeljita softverska talent rješenja pružaju sveobuhvatnu rješenje za sve vaše softverske potrebe.
Posjetite naš web-mjesto da istraživanja kako možemo vam pomoći u sklapanju vašega savršenog tima.
