OpenAI e bën të disponueshme për të gjithë modelin Decisions API, konkurrentin e shpejtë të Jev

OpenAI e ka bërë modelin e saj Decisions API të disponueshëm gjerësisht për përdoruesit për herë të parë, duke hyrë në tregun e inteligjencës së shpejtë dhe të lirë që, siç njofton TechCrunch, e ktheu së fundmi TypeSafe — një startup i themeluar nga një ish-kërkues i vetë laboratorit — në një kompani me vlerë 7.6 miliardë dollarë.

Modeli Jev i TypeSafe krijoi një kategori të re modelesh të të mësuarit të thellë që veprojnë si superklasifikues: përballë një bashkësie opsionesh, ato mund të zgjedhin shpejt dhe të ofrojnë një vlerësim besimi për vendimin e tyre. Siç shpjegon TechCrunch, zhvilluesit e software-it zbuluan shpejt se këto modele vendimi, të quajtura edhe System One, mund të zëvendësojnë modelet e mëdha gjuhësore në shumë rrjedha pune, duke vepruar shumë më shpejt dhe me kosto dukshëm më të ulët. “Wow, ne kemi një milion raste përdorimi për këtë”, u kishin thënë kolegët drejtuesit të produktit për API-të e OpenAI, Nikunj Handa, pasi panë Jev-in, sipas raportimit të TechCrunch.

Në vend që të ndërtonte një model vendimi të kalibruar posaçërisht, ekipi i OpenAI mori ChatGPT Luna dhe e rikonfiguroi për të shpejtuar nxjerrjen e përfundimeve dhe për të ulur koston. “Zbulimi i madh me Decisions API ka qenë shpejtësia, duke i shkurtuar gjërat nga një deri në tre sekonda në 100, 120, 180 milisekonda”, tha Handa për TechCrunch. “Tani për tani, është thjesht Luna e zakonshme që e kryen punën”, shtoi ai, duke lënë të kuptohet se në të ardhmen mund të ketë trajnim specifik për t’i përmirësuar edhe më tej këto modele.

API-ja, e njoftuar në ditën e zhvilluesve të kompanisë më 29 shtator, u bë e disponueshme për të gjithë klientët të enjten, siç njofton TechCrunch. OpenAI shtoi në versionin publik modalitete të reja zëri dhe vizuale dhe punoi për vonesa më të ulëta në rajone të ndryshme të botës, duke i drejtuar burimet e saj sipas gjeografisë. Në provat fillestare me klientë si Box, Datadog, Ramp dhe Speak, inxhinierët e përdorën API-në për të zëvendësuar modelet e mëdha gjuhësore me rendiment më të lartë: drejtori i teknologjisë i Speak, Andrew Hsu, tha se Decisions API i lejoi kompanisë ta shkurtojë kohën mes veprimeve nga 1.4 sekonda në 0.13 sekonda, dhe OpenAI e përdori vetë produktin për të përmirësuar reagimin e asistentit të saj zanor Dots.

Megjithatë, gara mbetet e hapur: sipas TechCrunch, renditjet publike si AIM System One Index dhe Artificial Analysis Decision Index favorizojnë aktualisht D1 Ultra, një model i ri vendimi i publikuar javën e kaluar nga Liquid, dhe Elephant-1 të Base Lab, ndërsa modeli më i fundit Jev mbetet konkurrues dhe ofertat e TypeSafe janë për momentin më të kërkuarat në OpenRouter. Avantazhi i OpenAI mund të jetë multimodaliteti — për klasifikimin e imazheve, “Luna është jashtëzakonisht i fuqishëm dhe ka treguar kalibrime më të mira”, tha Handa për TechCrunch — ndërsa ai parashikon se shpejtësi edhe më të mëdha, deri në 60 milisekonda, do të hapnin raste përdorimi krejt të reja, si një thirrje API-je për çdo kuadër të një videoje.