SDK Python intura_ai
Jalankan model milik Anda di CPU Anda sendiri
Paket intura-ai mengunduh model yang Anda miliki dan menjalankannya di proses Anda sendiri. Setelah diunduh, tidak ada panggilan jaringan, tidak ada biaya per permintaan, dan teks Anda tidak pernah meninggalkan mesin Anda.
CPU Anda
Model dimuat dari cache lokal dalam waktu jauh di bawah satu detik dan memprediksi di proses Anda: di server, laptop, atau perangkat edge.
Tanpa biaya per permintaan
Beli model sekali dan dapatkan semua versinya. Jalankan sesering yang Anda mau.
Teks tetap di tangan Anda
Hanya proses unduh yang terhubung ke Intura. Teks yang Anda prediksi tidak pernah meninggalkan mesin Anda.
Dari nol sampai prediksi pertama dalam tiga langkah
- 1
Pasang paketnya
Python 3.10 sampai 3.13. Paket ini membawa semua yang dibutuhkan untuk prediksi: onnxruntime (CPU), tokenizers, numpy, dan httpx.
Baca panduan mulai cepatbashpip install intura-ai - 2
Buat kunci unduhan
Dapatkan model dari katalog, lalu buat kunci unduhan di halaman akun Anda. SDK membacanya dari INTURA_API_KEY.
Buat kunci unduhanbashexport INTURA_API_KEY=sk_... - 3
Muat model lalu prediksi
Pemuatan pertama mengunduh model ke cache lokal. Setiap pemuatan berikutnya berjalan dari disk, offline, dan tanpa kunci.
Apa yang dikembalikan predictpythonfrom intura_ai import Intura model = Intura().models.load("chat-commerce-intent-id") model.predict("kak, paket saya kok belum sampai ya?") # {'label': 'shipping', 'score': 0.996}
Semua halaman
Mulai
Memakai model
- Memuat dan memprediksiMuat model dengan client.models.load, lalu predict dan predict_batch. Apa yang dikembalikan aturan keputusan tiap model, dan mengapa batch dijalankan satu teks per kali.
- Versi dan cacheVersi mana yang dipilih load, cara mengunci satu versi atau mengambil yang terbaru, letak cache, dan cara mengunduh model ke folder pilihan Anda.
- Library AndaLihat semua yang dimiliki akun Anda dengan client.library.list(), dan model yang boleh Anda unduh dengan client.models.list().
- AsyncAsyncIntura untuk program asyncio: unduhan di-await, prediksinya tetap LocalModel yang sama dan berjalan di CPU.
Referensi
- ErrorSetiap exception yang dimunculkan intura_ai, kapan masing-masing terjadi, dan apa yang perlu dilakukan. predict pada model yang sudah dimuat tidak memunculkan satu pun.
- KonfigurasiArgumen dan variabel lingkungan klien: kunci unduhan, folder cache, root API, timeout, retry, klien httpx Anda sendiri, dan logging.
- Upgrade dari 2.xintura-ai 3.0 hanya mengunduh model milik Anda dan menjalankannya. Pengganti setiap panggilan, tipe, error, dan perintah CLI dari 2.x.
Butuh model untuk dijalankan? Setiap halaman model mencantumkan slug, kegunaan, dan versinya. Model