Lompat ke konten
Intura
enid
Model AI Kecil untuk Enterprise: Pelatihan Kustom dan Integrasi / Integrasi
Integrasikan

Model kami, berjalan di dalam stack dan alur kerja agent Anda.

Model yang Anda unduh hanyalah sebuah direktori di disk. Membuatnya menjawab di dalam layanan, agent, atau workflow yang membutuhkannya, di mesin yang sudah Anda jalankan, dengan latensi dan memori yang sanggup Anda tanggung, itulah pekerjaan integrasi, dan itulah yang dikerjakan layanan ini. Kami memasang model dengan SDK Python intura_ai, menyambungkannya ke aplikasi, agent, dan tool workflow Anda, mengukurnya di perangkat keras Anda, lalu menyerahkan hasilnya kepada tim yang akan menjalankannya.

Masalahnya

Masalah yang diselesaikan

Sebagian besar tim yang mencoba model kecil berhenti di titik yang sama: model berjalan di notebook, dan tidak ada yang punya waktu mengubahnya menjadi satu langkah di produksi. Pertanyaannya praktis. Di mana ia berjalan, bagaimana ia dimuat dan dijaga tetap siap, apa yang terjadi jika satu panggilan gagal, bagaimana versi baru menggantikan yang lama, dan apakah cukup cepat di perangkat keras yang Anda punya? Selama belum terjawab, setiap pesan tetap dikirim ke model besar yang di-host pihak lain dan dibayar per token, untuk pekerjaan yang sebenarnya bisa dikerjakan CPU. Kami menjawabnya di lingkungan Anda, sehingga model kecil benar-benar mengambil alih pekerjaannya.

Untuk siapa

Untuk siapa

  • Tim engineering yang membangun AI agent dan butuh tool cepat untuk satu keputusan di setiap giliran

  • Tim yang memasang guardrail di depan LLM: penyaringan prompt injection dan masking PII sebelum prompt keluar dari gedung

  • Tim operasional di tool workflow seperti n8n yang butuh langkah klasifikasi atau ekstraksi tanpa tagihan per panggilan

  • Perusahaan yang datanya tidak boleh keluar dari VPC, gedung, atau perangkatnya

Yang kami kerjakan

Yang kami kerjakan

  1. 1

    Petakan keputusannya

    Kami menelusuri alurnya bersama tim Anda dan menandai titik di mana model kecil menggantikan atau melindungi sebuah panggilan: pesan yang perlu diklasifikasi, prompt yang perlu disaring, field yang perlu diekstrak, percakapan yang perlu diarahkan.

  2. 2

    Pilih dan uji modelnya

    Kami memilih dari katalog, atau merancang model kustom jika tidak ada yang cocok, lalu mencoba kandidatnya pada sampel data Anda sendiri sebelum apa pun disambungkan.

  3. 3

    Sambungkan

    Kami memasang model dengan SDK Python intura_ai dan menyambungkannya di tempat yang membutuhkannya: layanan di balik API Anda, tool yang dipanggil agent Anda, satu langkah di workflow, atau penjaga di depan LLM Anda. Jalur kegagalan dan fallback dirancang, bukan dibiarkan mengikuti default.

  4. 4

    Benchmark di perangkat keras Anda

    Kami mengukur latensi, throughput, dan memori di CPU, perangkat edge, atau instance yang benar-benar akan Anda pakai, lalu menentukan ukuran deployment dari hasil ukur itu, bukan dari angka kami.

  5. 5

    Serah terima

    Tim Anda menerima kodenya, konfigurasinya, runbook untuk deploy, pembaruan, dan rollback, serta sesi pendampingan dengan engineer yang akan memegangnya.

Yang Anda terima

Yang Anda terima

  • Kode integrasi, di repositori Anda
  • Model yang dipasang lewat SDK intura_ai, dipatok ke versi yang sudah Anda uji
  • Laporan benchmark dari perangkat keras Anda sendiri
  • Runbook: deploy, pindah ke versi model baru, rollback, pemantauan
  • Sesi serah terima untuk tim yang akan mengoperasikannya

Cara berjalannya

Bagaimana kerja sama berjalan

Integrasi biasanya melewati empat fase. Lamanya terutama bergantung pada berapa banyak titik yang harus disambungkan dan seberapa luas akses ke lingkungan Anda yang bisa diberikan kepada kami, jadi proposal setelah panggilan pertama yang menyebutkan jadwal untuk kasus Anda, bukan halaman ini yang menebaknya.

  1. 01

    Panggilan pertama

    Dengan engineer, bukan tenaga penjual. Kami mendengar apa yang dilakukan alurnya saat ini dan di mana masalahnya.

  2. 02

    Pelingkupan

    Proposal tertulis singkat: keputusan mana, model mana, lingkungan mana, apa yang Anda sediakan, dan apa yang Anda terima.

  3. 03

    Pembangunan dan benchmark

    Pekerjaan berlangsung di lingkungan Anda atau salinannya, dengan tinjauan di setiap langkah.

  4. 04

    Serah terima

    Kode, runbook, dan pendampingan. Dukungan setelahnya opsional dan disepakati terpisah.

FAQ

Pertanyaan umum

Apakah modelnya didapat terpisah?

Model katalog didapat dari halaman masing-masing model dan tetap ada di library Anda bersama semua versinya, sama seperti pembeli lain. Jika pekerjaannya membutuhkan model yang tidak ada di katalog, bagian itu menjadi model kustom dan dilingkupi bersama integrasinya.

Apakah ada data yang kami proses keluar dari jaringan kami?

Tidak. Model berjalan di mesin Anda dan tidak melakukan panggilan jaringan apa pun saat menjawab. SDK mengunduh file model dengan download key Anda; setelah itu, inference berjalan lokal.

Apakah bisa dipakai dengan framework agent atau tool workflow kami?

Biasanya bisa. Model adalah panggilan Python, jadi apa pun yang bisa memanggil Python, menjalankan container, atau menjangkau layanan HTTP internal bisa memakainya. Sebutkan apa yang Anda jalankan di panggilan pertama dan kami akan terus terang jika ada celah.

Bagaimana jika perangkat keras kami ternyata terlalu lambat?

Itulah gunanya benchmark. Kami mengukur sebelum serah terima, dan jika angkanya tidak cocok, kami mengatakannya dan mengusulkan perubahan, misalnya model yang lebih kecil, batching, atau tempat menjalankan yang berbeda, alih-alih merilis sesuatu yang tidak mampu mengikuti beban.

Baca dokumentasi SDK dulu

Cara kerja download key, memuat model, prediksi, dan versi di SDK Python intura_ai.

Buka dokumentasi

Layanan Enterprise lainnya

Hubungi kami

Ceritakan apa yang Anda butuhkan

Jelaskan masalahnya, timnya, dan di mana ia harus berjalan. Engineer membaca setiap pertanyaan dan membalas lewat email.

Di panggilan pertama Anda bertemu engineer, bukan skrip kualifikasi.