Jönnek az AI modellel rendelkező böngészők, most a Sigma mutatott be egy újat
A Sigma Browser pénteken bejelentette adatvédelemre fókuszáló webböngészőjének indítását, amely egy lokálisan futó AI modellt is tartalmaz, és így nem küld adatokat a felhőbe.
Számos böngészőfejlesztő csatlakozik az AI trendhez, és a beépített AI-modelleket az elsődleges felhasználói élmény részévé teszi. Jó példák erre az AI natív élményt kínáló Google Chrome-ban a Gemini és a Mozilla Firefoxba integrált AI modellek. Ezek mellett a nagy AI modelleket fejlesztő cégek is rendelkeznek már saját, speciális AI-natív böngészőkkel, ilyen például a Perplexity AI Comet és az OpenAI PBC Atlas böngészője.
Ezek a böngészők a felhasználók kérdéseit és lekérdezéseit a felhőben futó AI rendszereknek továbbítják, amelyek válaszokat és generatív tartalmakat szolgáltatnak.
Ezzel szemben a Sigma Eclipse böngésző egy lokálisan, a számítógépen futó nagy nyelvi modellt tartalmaz, amely offline is működik, és a felhasználó összes adatát, kérdését és csevegését teljes egészében lokálisan tárolja. A vállalat szerint ennek a megközelítésnek a célja, hogy kiküszöbölje azokat a rejtett viselkedésmódokat vagy hátsó ajtókat, amelyek megváltoztathatják a válaszokat vagy kiszivárogtathatják a felhasználói információkat harmadik fél szolgáltatásain keresztül.
„Az AI hihetetlenül hatékonnyá vált, de egyúttal centralizálttá és drágává is.” – mondta Nick Trenkler, a Sigma társalapítója. „Úgy véljük, hogy a felhasználóknak nem kellene feladniuk a személyes adatok védelmét és nem kellene folyamatosan fizetniük a felhő költségeket ahhoz, hogy hozzáférjenek a fejlett AI-hoz.”
A vállalat szerint az Eclipse beépített LLM modellje szűretlen, és nem tartalmaz ideológiai vagy tartalmi korlátozásokat, vagyis nem torzítja indokolatlanul a válaszokat. Ez a tervezési döntés összhangban áll a Sigma szándékával, hogy a felhasználók teljes mértékben irányíthassák AI-interakciós élményüket, témák vagy perspektívák korlátozása nélkül. A verzió tartalmaz egy PDF feldolgozási funkciót is, amely lehetővé teszi a felhasználók számára, hogy a dokumentumokat közvetlenül a számítógépükön elemezzék és dolgozzák fel.
A Sigma Eclipse nem az első böngésző, amely lokális LLM-eket alkalmaz. Már 2024-ben a Brave böngésző hozzáadta a „hozd magaddal a saját modelled” funkciót a Leo AI asszisztenséhez. Ez magában foglalta a helyi LLM-ekkel való egyszerű integrációt. Bár a folyamat kisebb technikai affinitást igényel, mivel Ollama vagy egy másik helyi AI szolgáltató telepítését igényli.
A lokális AI modellek hatékony futtatásához, különösen azokhoz, amelyek mérete körülbelül 7 milliárd paraméter, a hardverkövetelmények szerint általában legalább 16-32 gigabájt memória szükséges. Emellett egy viszonylag új grafikus processzorra is szükség van, például az Nvidia belépő szintű RTX 3060-as modelljére, de ajánlott, hogy a felhasználók legalább egy RTX 4090-es modellt használjanak. Nagyobb AI-modellek futtatásához több memóriára és még nagyobb teljesítményű GPU-kra van szükség.