مقایسه عملکرد API هوشی با ارائه‌دهندگان پیشرو: شفافیت و سرعت در خدمت شما

در هوشی (hooshi.net)، ما به ارائه شفافیت کامل و عملکردی در سطح سازمانی به کاربران خود افتخار می‌کنیم. هدف ما فراهم کردن یک API قدرتمند و یکپارچه است که نه تنها دسترسی به مدل‌های پیشرفته هوش مصنوعی را تسهیل می‌کند، بلکه عملکردی رقابتی و در بسیاری موارد، برتر را ارائه می‌دهد. این تعهد در مدل قیمت‌گذاری ما نیز منعکس شده است؛ ما ۱۰۰٪ با نرخ‌های پایه ارائه‌دهندگان اصلی همسو هستیم و هیچ سودی بر خدمات اصلی آن‌ها اعمال نمی‌کنیم. این مقاله به بررسی دقیق عملکرد API هوشی، با تمرکز بر مقایسه تأخیر در فراخوانی‌ها در مقایسه با استفاده مستقیم از ارائه‌دهندگان، می‌پردازد.

تأثیر ویژگی‌های امنیتی هوشی

برای اطمینان از یک مقایسه منصفانه، تمامی تست‌های بنچمارک با غیرفعال کردن ویژگی‌های امنیتی انجام شده‌اند. ویژگی‌های امنیتی هوشی، مانند شناسایی و حذف خودکار داده‌های حساس (مانند کلیدهای API و رمزهای عبور)، برای حفاظت از اطلاعات شما طراحی شده‌اند. اگرچه اکیداً توصیه می‌کنیم این ویژگی‌ها را برای اکثر برنامه‌ها فعال نگه دارید، اما فعال بودن آن‌ها ممکن است تأخیر جزئی (حدود ۲۰۰ تا ۳۰۰ میلی‌ثانیه) به همراه داشته باشد. با غیرفعال کردن موقت این لایه‌ها برای تست‌های بنچمارک، توانستیم اندازه‌گیری خالص عملکرد زیرساخت اصلی هوشی را ارائه دهیم. این امکان به کاربران اجازه می‌دهد تا بر اساس نیازهای برنامه خود، بین حداکثر سرعت یا امنیت پیشرفته یکی را انتخاب کنند.

تحلیل تأخیر منطقه‌ای در هوشی

تأخیر یک پارامتر ثابت نیست و به شدت تحت تأثیر موقعیت جغرافیایی کاربر و مرکز داده قرار دارد. برای ارائه تصویری واضح، تست‌هایی را از دو منطقه جغرافیایی کلیدی که کاربران ما در آنجا متمرکز هستند، انجام داده‌ایم.

عملکرد مرکز داده در اروپا

این تست از یک ماشین مجازی میزبانی شده در یک مرکز داده Azure در اتحادیه اروپا انجام شد و عملکرد API هوشی را با فراخوانی مستقیم مدل‌های مشابه از همان مکان مقایسه کرد.

محیط تست:
مدل: gpt-4o-mini
ارائه‌دهنده ابری: Microsoft Azure
مکان: اروپا

نتایج عملکرد اروپا

تحلیل: در مرکز داده ما در اتحادیه اروپا، هوشی تأخیر جزئی (حدود ۲۰۰ میلی‌ثانیه) نسبت به فراخوانی مستقیم ارائه‌دهنده اصلی اضافه می‌کند. این امر با توجه به اینکه سرورهای ارائه‌دهندگان اصلی عمدتاً بر روی Azure میزبانی می‌شوند، قابل پیش‌بینی است. این سربار جزئی در سمت هوشی نتیجه مستقیم خدمات ارزش افزوده‌ای است که ما ارائه می‌دهیم، مانند مسیریابی API یکپارچه، لایه‌های امنیتی قوی و پشتیبانی از چندین ارائه‌دهنده. برای برنامه‌هایی که دسترسی یکپارچه و انعطاف‌پذیری اولویت دارند، این تفاوت کوچک، ساده‌سازی قابل توجهی در فرآیند توسعه فراهم می‌کند. شما می‌توانید با ثبت‌نام در هوشی، این مزایا را تجربه کنید.

عملکرد مرکز داده در خاورمیانه

این تست از یک ماشین مجازی میزبانی شده در یک مرکز داده Arvancloud در خاورمیانه انجام شد و عملکرد API هوشی را با فراخوانی مستقیم مدل‌های مشابه از همان مکان مقایسه کرد.

محیط تست:
مدل: gpt-4o-mini
ارائه‌دهنده ابری: Arvancloud
مکان: خاورمیانه

نتایج عملکرد خاورمیانه

تحلیل: برای کاربران و برنامه‌های میزبانی شده در خاورمیانه، هوشی مزیت عملکردی قابل توجهی ارائه می‌دهد. زیرساخت ما برای کاربران منطقه‌ای بهینه‌سازی شده است که به ما امکان می‌دهد تا به تأخیر کمتر و توان عملیاتی توکن بالاتر در مقایسه با برقراری تماس مستقیم با سرورهای بین‌المللی ارائه‌دهندگان اصلی دست یابیم. این امر تعهد ما به ارائه تجربه‌ای برتر برای تمامی کاربران را نشان می‌دهد. ساخت اولین توکن API شما در هوشی رایگان است؛ کافیست به داشبورد ما مراجعه کنید.

تکرار نتایج با ابزارهای هوشی

ما به شفافیت کامل اعتقاد داریم. شما می‌توانید با استفاده از اسکریپت پایتون زیر، این تست‌های عملکردی را خودتان اجرا کنید. لطفاً اطمینان حاصل کنید که کتابخانه‌های لازم (requests, numpy, matplotlib, seaborn, tabulate, tqdm) را نصب کرده‌اید.

import os
import requests
import time
import numpy as np
import matplotlib.pyplot as plt
import json
from tabulate import tabulate
from tqdm import tqdm
from datetime import datetime
import seaborn as sns

def test_api_performance(api_name, api_url, api_key, model, num_requests=10, prompt="Say hi"):
    """Test API performance and collect comprehensive metrics"""
    headers = {"Content-Type": "application/json", "Authorization": f"Bearer {api_key}"}
    data = {
        "model": model,
        "messages": [{"role": "user", "content": prompt}]
    }
    
    ttfb_times = []
    total_times = []
    token_counts = []
    tokens_per_sec
    errors = 0
    
    print(f"Testing {api_name} API with {num_requests} requests...")
    for _ in tqdm(range(num_requests)):
        try:
            start_time = time.time()
            resp headers=headers, json=data, timeout=(10, 30))
            response_time = time.time()
            
            response_json = response.json()
            end_time = time.time()
            
            ttfb = response_time - start_time
            total_time = end_time - start_time
            
            try:
                usage = response_json.get("usage", {})
                total_tokens = usage.get("total_tokens", 0)
                completion_tokens = usage.get("completion_tokens", 0)
                token_counts.append(total_tokens)
                
                if completion_tokens > 0 and total_time > 0:
                    tokens_per_second.append(completion_tokens / total_time)
                else:
                    tokens_per_second.append(0)
            except:
                token_counts.append(0)
                tokens_per_second.append(0)
            
            ttfb_times.append(ttfb)
            total_times.append(total_time)
            
            time.sleep(0.5)
            
        except Exception as e:
            print(f"Error on request: {e}")
            errors += 1
    
    return {
        'name': api_name,
        'url': api_url,
        'model': model,
        'average_ttfb': np.mean(ttfb_times) if ttfb_times else None,
        'median_ttfb': np.median(ttfb_times) if ttfb_times else None,
        'p95_ttfb': np.percentile(ttfb_times, 95) if ttfb_times else None,
        'average_total': np.mean(total_times) if total_times else None,
        'median_total': np.median(total_times) if total_times else None,
        'p95_total': np.percentile(total_times, 95) if total_times else None,
        'ttfb_times': ttfb_times,
        'total_times': total_times,
        'token_counts': token_counts,
        'avg_tokens': np.mean(token_counts) if token_counts and any(token_counts) else None,
        'tokens_per_second': tokens_per_second,
        'avg_tokens_per_second': np.mean([t for t in tokens_per_second if t > 0]) if tokens_per_second and any(tokens_per_second) else None,
        'median_tokens_per_second': np.median([t for t in tokens_per_second if t > 0]) if tokens_per_second and any(tokens_per_second) else None,
        'success_rate': (num_requests - errors) / num_requests * 100 if num_requests > 0 else 0
    }

# Example usage (replace with your actual API key and URL)
# hooshi_api_url = "YOUR_HOOSHI_API_ENDPOINT"
# hooshi_api_key = "YOUR_HOOSHI_API_KEY"
# openai_api_url = "YOUR_OPENAI_API_ENDPOINT"
# openai_api_key = "YOUR_OPENAI_API_KEY"

# results_hooshi = test_api_performance("Hoshi", hooshi_api_url, hooshi_api_key, "gpt-4o-mini")
# results_openai = test_api_performance("OpenAI", openai_api_url, openai_api_key, "gpt-4o-mini")

# print(tabulate([results_hooshi, results_openai], headers="keys", tablefmt="grid"))

# Further analysis and plotting can be done here using matplotlib and seaborn

چرا هوشی؟

هوشی با ارائه ترکیبی بی‌نظیر از عملکرد، شفافیت و سهولت استفاده، پلتفرم ایده‌آل برای توسعه‌دهندگان و مدیران محصول است. ما به شما کمک می‌کنیم تا با بهره‌گیری از قدرت هوش مصنوعی، نوآوری کنید و پروژه‌های خود را با سرعت و اطمینان بیشتری به جلو ببرید. برای شروع، کافیست در هوشی ثبت‌نام کنید.