لدينا تحديث جديد. نقدّم الآن وحدة تحكم ويب خاصة بنا. افتح وحدة التحكم واكتب ssh root@your-server-ip للوصول إلى أي خادم تملكه مباشرة من المتصفح. لا حاجة إلى تطبيق SSH.
عندما تشغّل نموذجًا مفتوح الأوزان بنفسك، تذهب مطالباتك ومستنداتك إلى خادم تستأجره، لا إلى واجهة API تابعة لجهة خارجية. السؤال الذي يحسم كل شيء هو هل يتسع النموذج في ذاكرة GPU. تمنحك هذه الصفحة الحساب والخادم المناسب، مع أسعار حقيقية.
قاعدة تقريبية: الأوزان = المعاملات × البايتات لكل وزن، إضافة إلى نحو 20% لذاكرة العمل. تختلف الاحتياجات الفعلية بحسب طول السياق وحجم الدفعة والبرمجيات.
| النموذج والدقة | الذاكرة المقدّرة | 1x RTX 4090 (24 GB) | 1x RTX 5090 (32 GB) | 1x H100 (80 GB) | 2x H100 (160 GB) |
|---|---|---|---|---|---|
| 8B معامل، 16 بت | ~20 GB | يتسع | يتسع | يتسع | يتسع |
| 8B معامل، 8 بت | ~10 GB | يتسع | يتسع | يتسع | يتسع |
| 8B معامل، 4 بت | ~5 GB | يتسع | يتسع | يتسع | يتسع |
| 32B معامل، 16 بت | ~77 GB | no | no | يتسع | يتسع |
| 32B معامل، 8 بت | ~39 GB | no | no | يتسع | يتسع |
| 32B معامل، 4 بت | ~20 GB | يتسع | يتسع | يتسع | يتسع |
| 70B معامل، 16 بت | ~168 GB | no | no | no | no |
| 70B معامل، 8 بت | ~84 GB | no | no | no | يتسع |
| 70B معامل، 4 بت | ~42 GB | no | no | يتسع | يتسع |
| 120B معامل، 16 بت | ~288 GB | no | no | no | no |
| 120B معامل، 8 بت | ~144 GB | no | no | no | يتسع |
| 120B معامل، 4 بت | ~72 GB | no | no | يتسع | يتسع |
هذه تقديرات للتخطيط، لا اختبارات أداء. النموذج الذي يتسع بالكاد يترك مساحة قليلة للمطالبات الطويلة، فاترك هامشًا. النماذج المكمّمة تفقد بعض الجودة؛ اختبر نموذجك.
تتغير الأسعار بحسب الموقع الذي تختاره. المدة الأطول تمنح خصمًا يصل إلى 50%.
or $54.63/mo on a 12-month term (−50%)
يناسب النماذج الصغيرة والمتوسطة، و32B عند 4 بت.
Configure and orderor $87.88/mo on a 12-month term (−50%)
مساحة أكبر للسياق وللنماذج المكمّمة الأكبر.
Configure and orderor $375.25/mo on a 12-month term (−50%)
نموذج 70B عند 4 بت، أو 8 بت للنماذج المتوسطة.
Configure and orderor $707.75/mo on a 12-month term (−50%)
نماذج ضخمة جدًا ونماذج متوسطة عند 16 بت.
Configure and orderمهما اخترت، لا تعرّض API النموذج للإنترنت دون مصادقة. شرحنا موجود في تشغيل LLM على خادم GPU.
تبقى مطالباتك على خادم تستأجره ولا يشاركك أحد في GPU. ولا تُرسل إلى مورّد النموذج. الخادم يظل مستضافًا لدينا، ولا نراقب ولا نسجّل ما يجري داخل خوادمك، وتنطبق قواعد شروطنا على كل ما تشغّله، بما في ذلك ما تولّده وتنشره. أنت مسؤول عن الالتزام برخصة النموذج الذي تنزّله.
نعم، إذا التزمت برخصة النموذج. اختر خادمًا تتسع ذاكرة GPU فيه للنموذج مع هامش، وثبّت أداة تقديم مثل Ollama أو vLLM، وأمّن الـ API.
تقريبًا 35 GB أوزان عند 4 بت، و70 GB عند 8 بت، و140 GB عند 16 بت، إضافة إلى نحو 20% لذاكرة العمل. وفق هذا التقدير يحتاج نموذج 70B عند 4 بت إلى H100 بسعة 80 GB، لا إلى بطاقة بسعة 24 أو 32 GB.
يستوعب خادم RTX 4090 هذين الحجمين بأي دقة في الجدول، وأرخصه $109.25 شهريًا. النماذج الأكبر تحتاج ذاكرة أكثر.
لا. تعني أنك تختار النموذج وتشغّله على خادمك الخاص. ما تولّده وتنشره يبقى خاضعًا للقانون ولـشروطنا.
لا. أنشئ بيانات دخول وادفع بالعملات المشفرة. راجع خوادم GPU بلا KYC.
شهريًا من رصيدك مسبق الدفع، مع خصم يصل إلى 50% على المدد الأطول. راجع الأسعار.
اختر GPU، وادفع بالعملات المشفرة، وسجّل الدخول كـ root. بلا هوية ولا بطاقة.
