SSRF in POST /worker_generate_stream API endpoint in lm-sys/fastchat

Deze SSRF-kwetsbaarheid stelt een aanvaller in staat om de controller API server te misbruiken om verzoeken te sturen naar interne of externe bronnen namens de server. Dit kan leiden tot het blootleggen van gevoelige informatie, zoals interne netwerkconfiguraties, API-sleutels of andere credentials. Door de combinatie met de /register_worker endpoint kan een aanvaller mogelijk de server credentials overnemen en zo verder misbruik plegen. De impact is significant, aangezien een succesvolle exploitatie kan leiden tot een compromittering van de gehele applicatie en de onderliggende infrastructuur.

Organizations deploying lm-sys/fastchat for large language model serving, particularly those with exposed Controller API Servers, are at significant risk. This includes research labs, AI development teams, and any environment where fastchat is used to manage and orchestrate language models. Shared hosting environments where multiple users share the same fastchat instance are also particularly vulnerable.

• python / server: Monitor outbound network traffic from the fastchat Controller API Server for unexpected destinations. Use tools like tcpdump or Wireshark to capture and analyze traffic.

tcpdump -i any -n port 80 or port 443 | grep -i 'example.com'

• python / server: Examine fastchat logs for unusual requests to the /workergeneratestream and /register_worker endpoints. Look for requests with malformed URLs or unexpected parameters.

# Example log analysis (replace with your actual log parsing) 
import re
with open('fastchat.log', 'r') as f:
    for line in f:
        if re.search(r'/worker_generate_stream.*(http://|https://)', line):
            print(line)

• generic web: Check for unusual outbound connections from the fastchat server using ss or netstat.

ss -t -a | grep fastchat

1. 2024-12-30Disclosure

   disclosure

2. 2024-12-30Patch

   patch

1. Gereserveerd2024-10-16
2. Gepubliceerd2024-12-30
3. EPSS bijgewerkt2026-04-02

De primaire mitigatie is het upgraden naar de meest recente versie van fastchat, waar deze kwetsbaarheid is verholpen. Indien een upgrade momenteel niet mogelijk is, kan een tijdelijke workaround bestaan uit het implementeren van restricties op de /workergeneratestream API endpoint. Dit kan bijvoorbeeld door het beperken van de toegestane URL's of het implementeren van een Web Application Firewall (WAF) die verdachte verzoeken blokkeert. Controleer ook de configuratie van de /register_worker endpoint om te verzekeren dat deze niet misbruikt kan worden in combinatie met de SSRF kwetsbaarheid.