Den 24 mars 2026 publicerades två skadliga versioner av LiteLLM, Python-biblioteket och gatewayen för att anropa många LLM-leverantörer via ett enda API, på PyPI: 1.82.7 och 1.82.8. Båda bar på en stjälare av inloggningsuppgifter som samlade in miljövariabler, SSH-nycklar, molnuppgifter, Kubernetes-tokens och databaslösenord och skickade dem till models.litellm.cloud, en domän som LiteLLM inte äger. Den skadliga koden nådde aldrig LiteLLMs GitHub-repo; den laddades upp direkt till PyPI. Om något bygge, någon avbildning eller maskin installerade en av de två versionerna ska du behandla den som komprometterad och rotera varje hemlighet den kunde läsa.
Vägen in var en säkerhetsskanner. LiteLLM säger att det tror att komprometteringen ”originated from the Trivy dependency used in our CI/CD security scanning workflow”, fem dagar efter att attacken mot Trivys leveranskedja förgiftade Trivys releaser och GitHub Actions. PyPI:s incidentrapport uttrycker det på samma sätt: de skadliga releaserna kom ”after an API token exposure from an exploited Trivy dependency.” Ett verktyg som lagts till för att göra pipelinen säkrare lämnade ut de inloggningsuppgifter som publicerade paketet.
Vad som hände
| När (UTC) | Vad som hände |
|---|---|
| 19 till 23 mars | Trivy v0.69.4, taggarna för trivy-action och setup-trivy och två Docker Hub-avbildningar komprometterades med en stjälare av inloggningsuppgifter som kördes i CI-jobb (CVE-2026-33634). |
| 24 mars, 10:39 | Enligt LiteLLM gick de skadliga versionerna live på PyPI. 1.82.7 bar nyttolasten i litellm/proxy/proxy_server.py; 1.82.8 lade också till en fil litellm_init.pth som körs vid varje start av Python. |
| 24 mars | FutureSearch hittade den när LiteLLM kom in som ett transitivt beroende till ett MCP-plugin som kördes i Cursor och .pth-filen startade processer tills maskinen kraschade, en bugg i den skadliga koden. Användare rapporterade det på GitHub och till PyPI. |
| 24 mars | PyPI satte projektet i karantän. Enligt rapporten tog det 1 timme och 19 minuter från uppladdning till den första rapporten om skadlig kod och 2 timmar och 32 minuter från uppladdning till karantän, och de skadliga versionerna laddades ner fler än 119 000 gånger. Python Packaging Authority publicerade PYSEC-2026-2 samma dag. |
| 24 till 30 mars | LiteLLM tog bort paketen, roterade underhållarnas inloggningsuppgifter, anlitade Googles Mandiant för en forensisk undersökning av bygg- och publiceringskedjan, pausade releaser och granskade varje release från 1.78.0 till 1.82.6, som visade sig vara rena. |
| 26 mars | CISA lade till CVE-2026-33634, vars CVE-post listar LiteLLM 1.82.7 och 1.82.8 tillsammans med Trivy, i sin KEV-katalog. |
| 30 mars | LiteLLM tillkännagav 1.83.0, byggd via en ny release-pipeline med isolerade miljöer, och började signera sina GHCR-avbildningar med cosign. |
Samma CVE-post listar också telnyx 4.87.1 och 4.87.2, ett andra PyPI-paket som försågs med en bakdörr i samma kampanj och som PyPI:s rapport tar upp tillsammans med LiteLLM. LiteLLMs eget inlägg lämnar öppet hur uppladdningen gick till: enligt de tidiga bevisen kringgick angriparen de officiella CI/CD-arbetsflödena och laddade upp direkt till PyPI, möjligen via en underhållares komprometterade PyPI-konto. Både LiteLLM och telnyx har sedan dess gått över till PyPI:s Trusted Publishing, enligt PyPI.
Vem som berörs
Enligt LiteLLMs säkerhetsmeddelande kan du vara berörd om du mellan 10:39 och 16:00 UTC den 24 mars 2026:
- installerade eller uppgraderade LiteLLM med
pip, - körde en olåst
pip install litellmoch fick 1.82.7 eller 1.82.8, - byggde en Docker-avbildning med en olåst installation av LiteLLM, eller
- installerade något som är beroende av LiteLLM utan att låsa det, som ett agentramverk eller en MCP-server.
Du berörs inte om du använde LiteLLM Cloud, den officiella Docker-avbildningen ghcr.io/berriai/litellm (som låser sina beroenden), version 1.82.6 eller tidigare utan att uppgradera under perioden, eller LiteLLM installerad från källkoden på GitHub.
Fönstret som LiteLLM anger (mer än fem timmar) är bredare än de 2 timmar och 32 minuter från uppladdning till karantän som PyPI rapporterar. Använd det bredare. Räkna också med kopior som installerats senare från en cache eller en spegel: en pip-cache, en uv-cache, ett wheel i en intern paketproxy eller ett Docker-lager som byggdes den dagen kan fortfarande innehålla en skadlig version.
Så fungerar det
PyPA:s säkerhetsmeddelande och LiteLLMs inlägg beskriver nyttolasten:
- Den körs utan att anropas. 1.82.7 lade stjälaren i
litellm/proxy/proxy_server.py; enligt PyPA:s säkerhetsmeddelande körs den när någon modul från paketet importeras. 1.82.8 levererade ocksålitellm_init.pthisite-packages. Pythonssite-modul läser varje.pth-fil när tolken startar och kör rader som börjar medimport, så varje Python-process i den miljön körde nyttolasten, oavsett om den använde LiteLLM eller inte: en testkörning, en linter,pipsjälvt. - Den samlar in allt den når. Miljövariabler, SSH-nycklar, inloggningsuppgifter för Git och Docker,
.env-filer, tokens för tjänstekonton i Kubernetes, databas- och LDAP-konfiguration, skalhistorik och kryptoplånböcker. Den frågar molnets metadataservrar efter åtkomsttokens och läser hemligheter från AWS Secrets Manager. - Den skickar ut dem. Datan går till
models.litellm.cloud, som ser ut som LiteLLMs egen domän men inte är det. - Den stannar kvar. Den installerar en systemd-tjänst förklädd till ”System Telemetry Service”, skapar en ny pod i en Kubernetes-miljö, och persistensskriptet kontaktar
checkmarx.zoneför vidare instruktioner.
Säkerhetsmeddelandet klassar den som inbäddad skadlig kod (CWE-506). Inget i LiteLLMs källkod var fel; paketet på PyPI stämde inte med källkoden.
I ett CI-jobb möts den första och den andra punkten. Ett bygge som installerar beroenden och sedan kör tester startar en Python-tolk nästan direkt, och jobbets miljö innehåller de hemligheter det behöver för att publicera och driftsätta.
Så kontrollerar du om du berörs
- Sök i varje lockfil och kravfil på varje gren efter
litellm1.82.7 eller 1.82.8:requirements*.txt,poetry.lock,uv.lock,Pipfile.lockochpdm.lock. - Hitta olåsta installationer. En
pip install litellmutan version i ett arbetsflöde, en Dockerfile eller ett skript, och ett beroende som drar in LiteLLM utan låsning, löstes upp till den skadliga versionen under perioden. Användpip show litellmellerpipdeptree -r -p litellmi en byggd miljö för att se varför LiteLLM finns där. - Kontrollera vad byggena installerade den 24 mars. I CI skriver pip ut
Successfully installed ... litellm-1.82.7. Om loggarna fortfarande finns, sök i dem; GitHub raderar Actions-loggar efter 90 dagar som standard, så för mars 2026 är de oftast borta. - Kontrollera avbildningar och miljöer. Kör kommandona nedan i varje avbildning som byggdes den veckan och på utvecklardatorer och servrar som installerade Python-paket den dagen.
- Kontrollera cachar och speglar efter filerna
litellm-1.82.7ochlitellm-1.82.8.
Kommandon du kan anpassa. För att söka i lockfilerna på varje fjärrgren:
git fetch --all --quiet
for ref in $(git for-each-ref --format='%(refname:short)' refs/remotes); do
git grep -n -A1 -E 'litellm' "$ref" -- '*requirements*.txt' '*poetry.lock' '*uv.lock' '*Pipfile.lock' '*pdm.lock' \
| grep -E '1\.82\.[78]' | sed "s|^|$ref |"
done
För att kontrollera en maskin, en runner eller en container efter paketet, .pth-filen, cachade kopior och persistenstjänsten:
python -m pip show litellm 2>/dev/null | grep -i '^version'
find / -name 'litellm_init.pth' 2>/dev/null
find / \( -name 'litellm-1.82.7*' -o -name 'litellm-1.82.8*' \) 2>/dev/null
grep -rl 'System Telemetry Service' /etc/systemd /usr/lib/systemd ~/.config/systemd 2>/dev/null
För att kontrollera en avbildning som du har byggt (ersätt IMAGE):
docker run --rm --entrypoint sh IMAGE -c \
"pip show litellm 2>/dev/null | grep -i ^version; find / -name litellm_init.pth 2>/dev/null"
Därför avgör inte lockfilen saken
- Olåsta installationer lämnar inga spår.
pip install litellmi ett arbetsflöde eller en Dockerfile löses upp vid byggtid. Repot säger aldrig vilken version det bygget fick. - Transitiva beroenden. FutureSearch hittade attacken eftersom LiteLLM kom in via ett MCP-plugin, inte via något i deras eget projekt. AI-verktyg installerar ofta sina egna beroenden vid körning.
- Cachar överlever fönstret. Ett wheel som cachades den 24 mars kan installeras veckor senare av ett bygge som aldrig rörde PyPI.
- En avbildning kan bära den i månader. En avbildning som byggdes under perioden bär den skadliga versionen så länge den är driftsatt, och varje gång den startar körs
.pth-filen.
Du behöver en registrering av vilka paketversioner varje bygge faktiskt installerade, sparad per bygge. Se är vi drabbade? så bedömer du en ny CVE över alla dina byggen.
Så åtgärdar du det, och vad du gör om du inte kan patcha än
- Behandla varje miljö som installerade 1.82.7 eller 1.82.8 som komprometterad. PyPA:s råd är att ”assume any credentials available to litellm environment may have been exposed, and revoke/rotate them accordingly.” Rotera API-nycklar för varje LLM-leverantör, molnnycklar, databaslösenord, SSH-nycklar, Kubernetes-tokens och allt som finns i miljövariabler eller konfigurationsfiler.
- Isolera och undersök värden. Ta bort
litellm_init.pth, inaktivera och radera enheten ”System Telemetry Service”, radera poddar som du inte har skapat och granska värden ”against any unexpected modifications and network traffic”, som säkerhetsmeddelandet ber om. Om du i stället kan bygga om en värd eller runner från en ren avbildning, gör det. - Installera en ren version. Lås till 1.82.6 eller tidigare, eller till 1.83.0 eller senare, och bygg om varje avbildning som byggdes under perioden.
- Rensa cachar och speglar. Ta bort de två versionerna från pip- och uv-cachar, interna paketproxyer och CI-cachar:
pip cache remove 'litellm*'
uv cache clean litellm
gh cache delete --all --repo ORG/REPO # GitHub Actions caches, per repository
Verifiera åtgärden
- Varje lockfil låser en ren version, och inget arbetsflöde, ingen Dockerfile och inget skript installerar LiteLLM utan en version.
- Ingen miljö har nyttolasten. Kommandona ovan hittar ingen
litellm_init.pthoch ingen ”System Telemetry Service”. - De gamla inloggningsuppgifterna fungerar inte längre. Återkallade leverantörsnycklar och molnuppgifter är inaktiverade, inte bara ersatta.
- Ingen trafik till angriparens värdar. DNS- och proxyloggar visar inga uppslag av
models.litellm.cloudellercheckmarx.zoneefter saneringen. - Nästa bygge är rent. Kontrollera vilken version det faktiskt installerade, i dess logg eller SBOM per bygge, inte bara i lockfilen.
Så minskar du skadan nästa gång
- Lås och hasha.
pip install --require-hashesmed en lockfil installerar bara de filer du har låst, så en ny uppladdning, skadlig eller inte, kan inte smyga in i ett bygge. - Vänta innan du tar in nya versioner. De skadliga versionerna fanns på PyPI i flera timmar. En karenstid för beroendeuppdateringar håller helt nya releaser borta från byggena tills andra har tittat på dem.
- Publicera med Trusted Publishing. PyPI:s rapport rekommenderar Trusted Publishers framför långlivade API-tokens, en separat driftsättningsmiljö för releaser, låsta beroenden i arbetsflöden och inga riskabla utlösare som
pull_request_target. - Ge dina skannrar inga publiceringshemligheter. Ett skanningsjobb behöver inte den token som publicerar ditt paket. Kör publiceringen i ett eget jobb med egna hemligheter. Se hemligheter i GitHub Actions: så läcker de och så låser du dem och GitHub Actions-säkerhet.
- Begränsa vart byggen kan ansluta. Ett bygge som installerar från PyPI och kör tester behöver inte nå
models.litellm.cloud. Med en egress-policy misslyckas uppladdningen av stulna hemligheter från bygget. Det skyddar bygget, inte de servrar och bärbara datorer där samma paket kördes.
Kontrollera om du har komprometterats
Från LiteLLMs inlägg och PYSEC-2026-2:
| Typ | Indikator |
|---|---|
| Filer | litellm_init.pth i site-packages (1.82.8); nyttolasten i litellm/proxy/proxy_server.py (1.82.7 och 1.82.8) |
| Nätverk | models.litellm.cloud (exfiltrering); checkmarx.zone, inklusive https://checkmarx.zone/raw (persistens) |
| Persistens | En systemd-tjänstenhet med namnet ”System Telemetry Service”; i Kubernetes en ny pod som du inte har skapat |
När du ska utgå från att du har komprometterats. Varje miljö som installerade 1.82.7 eller 1.82.8, från den första uppladdningen, även om .pth-filen är borta och ingen anslutning syns i dina loggar. På en CI-runner hade nyttolasten jobbets hemligheter; på en server hade den allt som servern kunde nå, inklusive molnets metadata.
Granska vad inloggningsuppgifterna rörde. Kontrollera granskningsloggar för moln, Kubernetes och LLM-leverantörer från den 24 mars och framåt efter aktivitet du inte kan förklara. Nycklar till LLM-leverantörer är lätta att missa, och LiteLLM finns till för att hålla många av dem.
Vad du ska säga till dina kunder
Om din produkt använder LiteLLM, eller om dina byggen kan ha installerat det, kommer kunderna att fråga om din produkt eller deras data exponerades. Svara med vad du kontrollerade och vad du gjorde:
Vi har kontrollerat varje bygge och driftsättning av [produkt] mot de skadliga LiteLLM-versionerna 1.82.7 och 1.82.8 som publicerades på PyPI den 24 mars 2026. [Inget bygge och ingen miljö installerade en berörd version.] / [Byggen av [komponent] den [datum] installerade [version]. Vi har roterat varje inloggningsuppgift som de miljöerna hade åtkomst till, byggt om [produkt] från rena beroenden och släppt [version]. Vi hittade [inga tecken på missbruk / följande: ...].] Release [x till y] berörs; uppgradera till [version].
Om du fortfarande kontrollerar, säg det, och säg när du kommer att svara. Mallar för varje utfall finns i hur du svarar kunder efter en attack mot leveranskedjan.
Så hjälper CRACI
CRACI kör dina GitHub Actions-jobb på sina egna runners (runs-on: craci) och registrerar varje paket som varje jobb faktiskt hämtar från PyPI och andra register, inklusive paket som återställs från cachar. En olåst pip install litellm i ett arbetsflödessteg, ett beroende som dras in av ett verktyg eller en installation i ett byggskript syns alla, eftersom registreringen kommer från vad jobbet laddade ner, inte från vad en lockfil deklarerade. Bygghistoriken sparar varje tidigare bygge med dess SBOM, så när nästa incident av det här slaget tillkännages ser du vilka byggen som installerade de berörda versionerna och när, inom din lagringsperiod (180 dagar som standard), och varje jobbs nätverksspårning visar vad det anslöt till.
CRACI:s egress-policy begränsar vart ett jobb kan ansluta, valideras innan jobbet startar och blockerar vid fel, så en nyttolast som skickar hemligheter till en värd som bygget inte behöver, som models.litellm.cloud, blockeras, även vid en attack som ingen har sett tidigare. Kända skadliga releaser med en publicerad CVE flaggas som vilken annan sårbarhet som helst, och policyspärrar kan blockera byggen som innehåller dem. CRACI upptäcker inte skadliga paket utifrån beteende eller rykte, så ett nytt flaggas inte innan ett säkerhetsmeddelande finns. CRACI täcker dina byggen; servrar och utvecklardatorer som installerade paketet behöver kontrollerna ovan. För helhetsbilden, se CI/CD-säkerhet.
Se paketregistreringen för ett av dina egna byggen
Andra incidenter: alla sårbarheter, däribland komprometteringen av Trivy som ledde till den här och npm-masken Shai-Hulud.
Källor och uppdateringar
Primärkällor:
- LiteLLM: säkerhetsuppdatering, mars 2026, GitHub-ärende #24518
- Python Packaging Authority: PYSEC-2026-2 (MAL-2026-2144); PyPI: incidentrapport om LiteLLM och Telnyx
- FutureSearch, som rapporterade den
- CVE-2026-33634 (CNA: GitHub), Aqua Securitys GHSA-69fq-xp46-6x23, CISA:s KEV-katalog
- FIRST: EPSS-poäng för CVE-2026-33634
Uppdateringar:
- 2026-11-16: Först publicerad.