CrankGPT pokazuje AI na korbkę. Bez chmury, bez baterii i bez gniazdka
CrankGPT to eksperymentalny asystent AI zasilany ręczną korbką. Działa lokalnie na Raspberry Pi 5, bez chmury i bez baterii. To bardziej demonstracja kierunku niż gotowy produkt, ale dobrze pokazuje, dokąd zmierza mała, energooszczędna AI.
CrankGPT to eksperymentalny asystent AI zasilany ręczną korbką. Projekt stworzyło Squeez Labs, a całość działa lokalnie, bez chmury, bez baterii i bez podłączenia do gniazdka. Prąd potrzebny do pracy urządzenia powstaje wtedy, gdy użytkownik kręci korbką.
Nie chodzi więc o „AI bez prądu” w sensie dosłownym, ale o sztuczną inteligencję działającą poza klasyczną infrastrukturą, bez centrum danych i zasilania sieciowego. Sercem urządzenia jest Raspberry Pi 5 z 8 GB RAM. Na nim uruchomiono rozpoznawanie mowy, mały model językowy i syntezę głosu. Wszystko odbywa się lokalnie, bez wysyłania zapytań do zewnętrznych serwerów.
To jest link afiliacyjny. Kupując za jego pomocą, wspieracie moją pracę i rozwój bloga, a cena dla Was i tak pozostaje bez zmian.
Największym wyzwaniem okazało się stabilne zasilanie. Raspberry Pi źle znosi spadki napięcia, a praca modeli AI potrafi powodować nagłe skoki poboru energii. Dlatego twórcy dodali własną płytkę z kondensatorami, która działa jak krótki bufor. Daje około 20 sekund zapasu i wygładza wahania napięcia. Co ciekawe, obciążenie AI można dosłownie poczuć. Gdy model językowy i synteza mowy pracują jednocześnie, korbka stawia większy opór.
CrankGPT nie jest konkurencją dla ChatGPT czy Claude. To raczej demonstracja tego, że część zadań AI można wykonywać lokalnie, na małym sprzęcie i przy bardzo niskim zużyciu energii. Twórcy testowali m.in. małe modele Liquid AI LFM2 oraz Gemma 3 1B. Uruchomienie rozmowy po rozpoczęciu kręcenia zajmuje około 30 sekund, a czas reakcji zależy od wybranego modelu.
Projekt dobrze wpisuje się w dyskusję o kosztach energetycznych sztucznej inteligencji. Międzynarodowa Agencja Energetyczna prognozuje, że zużycie energii przez centra danych może wzrosnąć do około 945 TWh w 2030 roku, a AI będzie jednym z głównych motorów tego wzrostu.
CrankGPT nie rozwiązuje tego problemu, ale pokazuje ciekawy kierunek: małą, lokalną i bardziej prywatną AI, która nie zawsze musi korzystać z chmury. Na razie to inżynierska ciekawostka, ale bardzo wymowna. W tym przypadku użytkownik może dosłownie poczuć w ręku, ile energii kosztuje pytanie zadane sztucznej inteligencji.
Źródła: Squeez Labs, Cyfrowa.rp.pl, IEA
