Stanfordov S1, AI sustav otvorenog koda razvijen za 50 dolara, usporediv sa OpenAI o1
Znanstvenici sa Stanforda i Sveučilišta Washington razvili su S1, AI model otvorenog koda koji košta manje od 50 dolara, koristi tehniku destilacije znanja za postizanje performansi sličnih skupim sustavima poput OpenAI-a i drugih...
Znanstvenici sa Sveučilišta Stanford i Sveučilišta Washington predstavili su S1, model umjetne inteligencije otvorenog koda koji se može mjeriti s mogućnostima skupih sustava. Projekt, završen za manje od 50 dolara koristeći cloud resurse, pokazuje kako je moguće konkurirati vodećim tehnološkim tvrtkama.
Treniran je na javno dostupnim podacima
Model S1 treniran je na javno dostupnim podacima, uključujući zadatke s platforme Project Euler i matematičke probleme iz različitih otvorenih skupova podataka.
Prijenos znanja sa složenijeg modela na manji
Ključni element razvoja S1 modela bila je tehnika destilacije znanja. Proces je uključivao prijenos znanja s većeg, složenijeg modela, Google's Gemini 2.0 Flash Thinking Experimental, na manji model. Kroz ovaj pristup učenja učitelj-učenik, S1 je uspješno sažeo složeno znanje u jednostavniji oblik koji može raditi na slabijim računalima. Istraživači su također koristili proširivanje podataka i generiranje sintetičkih podataka kako bi povećali skup za treniranje bez dodatnih troškova.
Poput OpenAI-jevog o1 i DeepSeekovog R1
Rezultati S1 modela posebno su zanimljivi iz mnogih razloga, a najviše oko toga koliko je uloženo u odnosu koliko je dobiveno. Prema izvještajima, njegove sposobnosti zaključivanja dostižu ili se približavaju modelima poput OpenAI-jevog o1 i DeepSeekovog R1, posebice u područjima matematike i programiranja. Model je temeljito testiran na standardnim testovima, uključujući GSM8K za matematičke zadatke s riječima, MATH za srednjoškolsku matematiku te programerske izazove s platformi poput LeetCode.
Dostupnost otvara nove mogućnosti
Jedna od najvažnijih značajki S1 projekta je njegova dostupnost jer je objavljen na GitHubu. Kao otvoren pristup, utjecaj ovog projekta je dalekosežan. Najvažnije, ali pogubno za mnoge velike tvrtke, S1 bi mogao smanjiti monopol velikih tehnoloških tvrtki nad AI inovacijama. Otvara nove mogućnosti za obrazovnu i istraživačku primjenu, omogućujući studentima i istraživačima eksperimentiranje s AI modelima bez visokih troškova.
S1 projekt ograničava skalabilnost
Ono što zasad priječi S1 projekt da bude široko upotrebljavan jest skalabilnost. Iako pokazuje da se složeno zaključivanje može postići s ograničenim budžetom, poboljšanje postojećih mogućnosti ili proširenje na složenije zadatke moglo bi zahtijevati nove pristupe ili dodatne podatke i, naravno, puno veća ulaganja. Zato će dalji uspjeh S1 ovisiti o uključenosti zajednice, kako u poboljšanju modela tako i u osiguravanju njegove etičke uporabe.
