lm-sys/fastchat の Controller API Server における POST /worker_generate_stream API エンドポイントの SSRF

このSSRF脆弱性は、攻撃者がfastchat Controller API Serverの認証情報を利用して、内部ネットワーク上の機密情報にアクセスしたり、外部のWebサービスに対して不正なリクエストを送信したりすることを可能にします。例えば、内部のデータベースサーバーや管理コンソールにアクセスし、機密情報を窃取したり、別のWebサービスを介して攻撃を拡大したりする可能性があります。攻撃者は、/register_workerエンドポイントと組み合わせることで、より広範な攻撃を仕掛けることが可能です。この脆弱性の悪用は、機密情報の漏洩、システムの乗っ取り、さらにはネットワーク全体の停止につながる可能性があります。

Organizations deploying lm-sys/fastchat for large language model serving, particularly those with exposed Controller API Servers, are at significant risk. This includes research labs, AI development teams, and any environment where fastchat is used to manage and orchestrate language models. Shared hosting environments where multiple users share the same fastchat instance are also particularly vulnerable.

• python / server: Monitor outbound network traffic from the fastchat Controller API Server for unexpected destinations. Use tools like tcpdump or Wireshark to capture and analyze traffic.

tcpdump -i any -n port 80 or port 443 | grep -i 'example.com'

• python / server: Examine fastchat logs for unusual requests to the /workergeneratestream and /register_worker endpoints. Look for requests with malformed URLs or unexpected parameters.

# Example log analysis (replace with your actual log parsing) 
import re
with open('fastchat.log', 'r') as f:
    for line in f:
        if re.search(r'/worker_generate_stream.*(http://|https://)', line):
            print(line)

• generic web: Check for unusual outbound connections from the fastchat server using ss or netstat.

ss -t -a | grep fastchat

1. 2024-12-30Disclosure

   disclosure

2. 2024-12-30Patch

   patch

1. 予約済み2024-10-16
2. 公開日2024-12-30
3. EPSS 更新日2026-04-02

この脆弱性への主な対策は、fastchatを最新バージョンにアップデートすることです。アップデートが利用できない場合は、Controller API Serverへの外部からのアクセスを制限するファイアウォールルールを実装したり、Web Application Firewall (WAF) を導入して、SSRF攻撃を検知・防御したりすることを検討してください。また、/register_workerエンドポイントの入力検証を強化し、不正なURLが送信されるのを防ぐことも有効です。アップデート後、fastchatのログを監視し、不審なリクエストがないか確認することで、脆弱性の悪用を早期に発見できます。