NeboAI
NeboAI
Başlayın

Uygulama Sidecar

Sidecar, bir uygulamanın yanında çalışan bir ikili dosyadır. Sayfanın API'sini sunar, uygulamanın verilerini tutar ve uygulamanın çalışanına araçlar verir. Nebo onu başlatır, istekleri yerel bir soket üzerinden ona yönlendirir ve başarısız olduğunda yeniden başlatır.

Sözleşme

Sidecar, bir Unix soketi üzerindeki bir gRPC sunucusudur. NEBO_APP_SOCK içindeki yolu dinleyin ve apps.v0.UIService hizmetini uygulayın. Nebo her istek için HandleRequest çağırır; HealthCheck ve Configure hizmetin parçasıdır ancak bugün çağrılmaz. Soket, manifestonun startup_timeout değeri içinde görünmelidir; bu değer varsayılan olarak 10 saniyedir ve en fazla 120 olabilir.

syntax = "proto3";
package apps.v0;

service UIService {
  rpc HealthCheck(HealthCheckRequest) returns (HealthCheckResponse);
  rpc Configure(SettingsMap) returns (Empty);
  rpc HandleRequest(HttpRequest) returns (HttpResponse);
}

message HttpRequest {
  string method = 1;               // GET, POST, PUT, DELETE, ...
  string path = 2;                 // relative to /apps/{id}/api/
  string query = 3;                // raw query string
  map<string, string> headers = 4;
  bytes body = 5;
}

message HttpResponse {
  int32 status_code = 1;
  map<string, string> headers = 2;
  bytes body = 3;
}

Sidecar'lar macOS ve Linux'ta çalışır.

Nebo ikili dosyayı nerede bulur

Nebo, uygulamanın klasöründe aşağıdakilerden var olan ilkini kullanır:

  1. binary adlı bir dosya
  2. app adlı bir dosya
  3. tmp/ içindeki ilk dosya
  4. bin/ içindeki ilk dosya
  5. Yerel geliştirme için sidecar/target/release/ içindeki ilk yürütülebilir dosya

İkili dosya, sembolik bağlantı olmayan, normal ve yürütülebilir bir dosya olmalı ve en fazla 500 MB olmalıdır. Yayımlanan uygulamalar onu bin/<name> konumunda taşır. Dosya diskte değiştiğinde Nebo sidecar'ı yeniden başlatır.

Ortam

Sidecar boş bir ortamla ve şu değişkenlerle başlar:

DeğişkenDeğer
NEBO_APP_ID, NEBO_APP_NAME, NEBO_APP_VERSIONUygulamanın kimliği.
NEBO_APP_DIRUygulamanın klasörü.
NEBO_APP_SOCKDinlenecek soket, <app folder>/<id>.sock. Nebo izin modunu 0600 olarak ayarlar.
NEBO_DATA_DIRUygulamanın veri klasörü, <data>/appdata/agents/<id>/. Aynı zamanda çalışma dizinidir.
NEBO_API_URLBotun yerel API'si, http://127.0.0.1:<port>.
NEBO_APP_TOKENBotun uygulama API'sini çağırmak için bir belirteç.
PATH, HOME, TMPDIR, LANG, LC_ALL, TZOlduğu gibi aktarılır.

Standart çıktı ve standart hata, veri klasöründeki sidecar.log dosyasına gider. Standart girdi bir borudur; dosya sonu, Nebo'nun gittiği ve sidecar'ın kapanması gerektiği anlamına gelir. Sidecar kendi süreç grubunda çalışır.

Sayfadan gelen istekler

Sayfanın neboFetch ve göreli bir yolla yaptığı /apps/<id>/api/<path> isteği, path değeri <path> olarak ayarlanmış şekilde HandleRequest yöntemine ulaşır. _ ile başlayan yollar reddedilir. İstek gövdeleri 10 MB, yanıtlar ise 32 MB ile sınırlıdır.

Çalışan için araçlar

Araçları uygulamanın agent.json dosyasında bildirin. Her biri, çalışan ihtiyaç duyduğunda yüklenen app__<app>__<name> adlı bir araca dönüşür. Bir çağrı, sidecar'a method ve path üzerinden yapılan bir isteğe dönüşür.

"tools": [
  {
    "name": "list_deals",
    "description": "List open deals, optionally filtered by stage.",
    "method": "GET",
    "path": "/deals",
    "input_schema": { "type": "object", "properties": { "stage": { "type": "string" } } }
  }
]

Nebo'yu çağırma

Sidecar, Authorization: Bearer $NEBO_APP_TOKEN başlığıyla $NEBO_API_URL/api/v1/apps/$NEBO_APP_ID/... adresini çağırarak sayfayla aynı hizmetleri kullanabilir.

YolNe yapar
GET /storage, GET|PUT|DELETE /storage/<key>Uygulamanın anahtar-değer deposu.
POST /agents/invoke, POST /agents/streamBir çalışana sorar: {message, agent, data}. Akış yanıtları sunucu tarafından gönderilen olaylardır.
POST /janus/complete, POST /janus/streamDoğrudan bir model çağrısı: {messages, model, temperature, max_tokens, system}.
POST /http/proxyUygulamanın network: izinlerinin izin verdiği harici bir istek, {url, method, headers, body}.
GET /identityUygulamanın çalışanı.

Yaşam döngüsü

  • Nebo soketi üç saniyede bir yoklar.
  • Başarısız olan bir sidecar bir saniye sonra yeniden başlar; bu süre ikiye katlanarak en fazla 60 saniyeye çıkar. Art arda beş başarısızlıktan sonra başarısız olarak işaretlenir. 60 saniye boyunca çalışır kalan bir sidecar yeniden sağlıklı sayılır.
  • Durdurulmuş bir sidecar'a gelen istek onu başlatır ve en fazla 15 saniye bekler. GET ve HEAD istekleri yeniden denenir.
  • Bir sidecar'ı durdurmak için Nebo, süreç grubuna SIGTERM gönderir, ardından iki saniye sonra onu sonlandırır.