NeboAI
NeboAI
Kòmanse

Sidecar aplikasyon

Yon sidecar se yon binè ki fonksyone bò kote yon aplikasyon. Li sèvi API paj la, li kenbe done aplikasyon an, epi li bay anplwaye aplikasyon an zouti. Nebo lanse l, li voye demann ba li sou yon sokèt lokal, epi li rekòmanse l lè l echwe.

Kontra a

Yon sidecar se yon sèvè gRPC sou yon sokèt Unix. Koute sou chemen ki nan NEBO_APP_SOCK epi aplike apps.v0.UIService. Nebo rele HandleRequest pou chak demann; HealthCheck ak Configure fè pati sèvis la men yo pa rele yo jodi a. Sokèt la dwe parèt nan startup_timeout manifès la, ki se 10 segonn pa defo epi ki ka rive maksimòm 120.

syntax = "proto3";
package apps.v0;

service UIService {
  rpc HealthCheck(HealthCheckRequest) returns (HealthCheckResponse);
  rpc Configure(SettingsMap) returns (Empty);
  rpc HandleRequest(HttpRequest) returns (HttpResponse);
}

message HttpRequest {
  string method = 1;               // GET, POST, PUT, DELETE, ...
  string path = 2;                 // relative to /apps/{id}/api/
  string query = 3;                // raw query string
  map<string, string> headers = 4;
  bytes body = 5;
}

message HttpResponse {
  int32 status_code = 1;
  map<string, string> headers = 2;
  bytes body = 3;
}

Sidecar yo fonksyone sou macOS ak Linux.

Ki kote Nebo jwenn binè a

Nan dosye aplikasyon an, Nebo itilize premye nan sa yo ki egziste:

  1. Yon fichye ki rele binary
  2. Yon fichye ki rele app
  3. Premye fichye nan tmp/
  4. Premye fichye nan bin/
  5. Premye egzekitab nan sidecar/target/release/, pou devlopman lokal

Binè a dwe yon fichye nòmal, egzekitab, pa yon lyen senbolik, epi maksimòm 500 MB. Aplikasyon ki pibliye yo genyen l nan bin/<name>. Lè fichye a chanje sou disk la, Nebo rekòmanse sidecar a.

Anviwònman

Sidecar a demare ak yon anviwònman vid ak varyab sa yo:

VaryabValè
NEBO_APP_ID, NEBO_APP_NAME, NEBO_APP_VERSIONIdantite aplikasyon an.
NEBO_APP_DIRDosye aplikasyon an.
NEBO_APP_SOCKSokèt pou koute a, <app folder>/<id>.sock. Nebo mete mòd li sou 0600.
NEBO_DATA_DIRDosye done aplikasyon an, <data>/appdata/agents/<id>/. Se dosye travay la tou.
NEBO_API_URLAPI lokal bot la, http://127.0.0.1:<port>.
NEBO_APP_TOKENYon token pou rele API aplikasyon bot la.
PATH, HOME, TMPDIR, LANG, LC_ALL, TZTransmèt jan l ye.

Sòti estanda ak erè estanda ale nan sidecar.log nan dosye done a. Antre estanda se yon tiyo; fen fichye vle di Nebo ale epi sidecar a ta dwe fèmen. Sidecar a fonksyone nan pwòp gwoup pwosesis pa l.

Demann ki soti nan paj la

Yon demann bay /apps/<id>/api/<path>, paj la fè ak neboFetch ak yon chemen relatif, rive nan HandleRequest ak path ki mete sou <path>. Chemen ki kòmanse ak _ refize. Kò demann yo limite a 10 MB epi repons yo a 32 MB.

Zouti pou anplwaye a

Deklare zouti nan agent.json aplikasyon an. Chak youn vin yon zouti ki rele app__<app>__<name>, ki chaje lè anplwaye a bezwen l. Yon apèl vin yon demann bay sidecar a nan method ak path.

"tools": [
  {
    "name": "list_deals",
    "description": "List open deals, optionally filtered by stage.",
    "method": "GET",
    "path": "/deals",
    "input_schema": { "type": "object", "properties": { "stage": { "type": "string" } } }
  }
]

Rele Nebo

Sidecar a ka itilize menm sèvis ak paj la lè l rele $NEBO_API_URL/api/v1/apps/$NEBO_APP_ID/... ak antèt Authorization: Bearer $NEBO_APP_TOKEN.

WoutFè
GET /storage, GET|PUT|DELETE /storage/<key>Depo kle-valè aplikasyon an.
POST /agents/invoke, POST /agents/streamMande yon anplwaye: {message, agent, data}. Repons an flo yo se evènman sèvè voye (server-sent events).
POST /janus/complete, POST /janus/streamYon apèl dirèk bay modèl la: {messages, model, temperature, max_tokens, system}.
POST /http/proxyYon demann deyò, {url, method, headers, body}, pèmisyon network: aplikasyon an otorize.
GET /identityAnplwaye aplikasyon an.

Sik lavi

  • Nebo teste sokèt la chak twa segonn.
  • Yon sidecar ki echwe rekòmanse apre yon segonn, epi reta a double jiska maksimòm 60 segonn. Apre senk echèk youn dèyè lòt, li make kòm echwe. Yon sidecar ki rete aktif pandan 60 segonn vin an sante ankò.
  • Yon demann bay yon sidecar ki kanpe lanse l epi li tann jiska 15 segonn. Demann GET ak HEAD reeseye.
  • Pou kanpe yon sidecar, Nebo voye SIGTERM bay gwoup pwosesis li, apre sa li touye l apre de segonn.