Umelá inteligencia a strojové učenie, riadenie a riadenie rizík, technológie novej generácie a bezpečný vývoj
Spoločnosti túžiace po nástrojoch uprednostňujú transformačnú silu AI pred bezpečnosťou
Rashmi Ramesh (Rashmiramesh_) •
25. júna 2024
Hackeri, ktorí sa zameriavajú na populárny open-source projekt na poháňanie umelej inteligencie Ollama, by sa mohli stať veľkým „hitom“, ak ešte neboli opravené.
Pozri tiež: Úvod do Ruby AI od Rubric
Wizovi výskumníci v oblasti bezpečnosti odhalené V pondelok objavili ľahko zneužiteľnú zraniteľnosť Ollama na vzdialené spúšťanie kódu, ktorej názov – možno nie je nič lepšie ako Problemama.
Znehodnotenie, sledované ako CVE-2024-37032Prijaté a spojenie Dňa 7. mája. „Veľký počet“ prípadov nebol aktualizovaný začiatkom tohto mesiaca, povedal Wiese.
Spoločnosti „príliš často odsunuli bezpečnostné opatrenia AI“ v prospech zamerania sa na jej transformačnú silu, zatiaľ čo zákazníci rýchlo prijímajú nové nástroje a infraštruktúru, aby získali konkurenčnú výhodu, povedal Wiz. Tieto nástroje sú však „dokonalými cieľmi“ pre aktérov hrozieb, pretože ich počiatočná fáza vývoja zvyčajne nemá štandardizované bezpečnostné funkcie, ako je autentifikácia, a je relatívne ľahké nájsť chyby v mladšej kódovej základni.
Ollama nemá vstavaný proces autentifikácie, takže výskumníci odporúčajú, aby užívateľské organizácie nevystavovali inštalácie internetu, pokiaľ nemajú zavedené vlastné bezpečnostné procesy. „Kľúčovým problémom nie sú len slabé miesta, ale aj nedostatok podpory autentifikácie zabudovanej do týchto nových nástrojov,“ povedal výskumník Wiz Saki Jadik.
Iné nástroje ako Ollama atď Podávajte pochodeň A Ray Anisscale Predtým bola RCE náchylná na chyby.
Umelá inteligencia Ollama zjednodušuje proces balenia a triedenia vzoriek. Jeho server poskytuje koncové body API, ktoré používateľom umožňujú sťahovať modely z registra Ollama a iných súkromných registrov.
Ollama je kompatibilný s LLM, ako sú Meta's Llama, Microsoft's Phi a Mistral's, je jedným z najpopulárnejších programov na spustenie modelov AI so stovkami tisíc ťahov za mesiac. Docker Hub úložisko a viac ako 70 000 hviezd GitHub.
Keď používatelia vytiahnu vzorku zo súkromného registra, hackeri môžu vložiť škodlivý súbor manifestu a ohroziť prostredie, ktoré hostí zraniteľný server Ollama. Útočníci by mohli túto chybu zneužiť odoslaním špeciálne upravenej požiadavky HTTP na verejný server Ollama API v inštaláciách Docker.
Chyba je spôsobená nedostatočnou validáciou na strane servera, povedal Jadic.
„Pri vyberaní vzorky z osobného registra – dotazovaním http://[victim]:11434/api/pull „Koncový bod API môže doručiť škodlivý súbor manifestu, ktorý obsahuje užitočné zaťaženie prechodu trasy v poli súhrnu,“ uviedol v e-maile.
Hackeri môžu použiť toto užitočné zaťaženie na čítanie a poškodenie súborov na napadnutom počítači bez povolenia a na diaľku spustiť zraniteľný kód. Jadic povedal, že jednoduchosť využívania je v inštaláciách Docker „veľmi vážna“.
