𝐈𝐧𝐟é𝐫𝐞𝐧𝐜𝐞 𝐯𝐋𝐋𝐌 𝐃𝐢𝐬𝐭𝐫𝐢𝐛𝐮é𝐞 : É𝐜𝐡𝐞𝐥𝐥𝐞. 𝐂𝐨𝐧𝐟𝐢𝐝𝐞𝐧𝐭𝐢𝐞𝐥. 𝐈𝐧𝐝é𝐩𝐞𝐧𝐝𝐚𝐧𝐭 𝐝𝐞𝐬 𝐟𝐨𝐮𝐫𝐧𝐢𝐬𝐬𝐞𝐮𝐫𝐬.

Exécutez des LLM à grande échelle en parallélisant l'inférence vLLM sur plusieurs fournisseurs de GPU : sans exposition des données et sans dépendance vis-à-vis d'un seul fournisseur. https://t.co/i7SxpnFRiE