NeboAI
NeboAI
Бастау

App Sidecar

Sidecar — қолданбаның жанында жұмыс істейтін бинарлық файл. Ол беттің API-ін ұсынады, қолданбаның деректерін сақтайды және қолданба қызметкеріне құралдар береді. Nebo оны іске қосады, сұрауларды оған жергілікті сокет арқылы бағыттайды және ол құлағанда қайта іске қосады.

Келісім

Sidecar — Unix сокетіндегі gRPC сервері. NEBO_APP_SOCK ішіндегі жолды тыңдап, apps.v0.UIService іске асырыңыз. Nebo әр сұрау үшін HandleRequest шақырады; HealthCheck пен Configure қызметтің бөлігі, бірақ бүгін шақырылмайды. Сокет манифесттің startup_timeout мәні ішінде пайда болуы тиіс, ол әдепкі бойынша 10 секунд және ең көбі 120 болуы мүмкін.

syntax = "proto3";
package apps.v0;

service UIService {
  rpc HealthCheck(HealthCheckRequest) returns (HealthCheckResponse);
  rpc Configure(SettingsMap) returns (Empty);
  rpc HandleRequest(HttpRequest) returns (HttpResponse);
}

message HttpRequest {
  string method = 1;               // GET, POST, PUT, DELETE, ...
  string path = 2;                 // relative to /apps/{id}/api/
  string query = 3;                // raw query string
  map<string, string> headers = 4;
  bytes body = 5;
}

message HttpResponse {
  int32 status_code = 1;
  map<string, string> headers = 2;
  bytes body = 3;
}

Sidecar-лар macOS пен Linux-та жұмыс істейді.

Nebo бинарлық файлды қайдан табады

Қолданба қалтасында Nebo мыналардың бар болған біріншісін пайдаланады:

  1. binary деп аталатын файл
  2. app деп аталатын файл
  3. tmp/ ішіндегі бірінші файл
  4. bin/ ішіндегі бірінші файл
  5. Жергілікті әзірлеу үшін sidecar/target/release/ ішіндегі бірінші орындалатын файл

Бинарлық файл символдық сілтеме емес, кәдімгі орындалатын файл болуы және көлемі 500 MB-тан аспауы тиіс. Жарияланған қолданбаларда ол bin/<name> жолында болады. Файл дискіде өзгергенде Nebo sidecar-ды қайта іске қосады.

Орта

Sidecar бос ортамен және мына айнымалылармен іске қосылады:

АйнымалыМәні
NEBO_APP_ID, NEBO_APP_NAME, NEBO_APP_VERSIONҚолданбаның сәйкестігі.
NEBO_APP_DIRҚолданбаның қалтасы.
NEBO_APP_SOCKТыңдалатын сокет, <app folder>/<id>.sock. Nebo оның режимін 0600 етіп орнатады.
NEBO_DATA_DIRҚолданбаның деректер қалтасы, <data>/appdata/agents/<id>/. Сондай-ақ жұмыс каталогы.
NEBO_API_URLБоттың жергілікті API-і, http://127.0.0.1:<port>.
NEBO_APP_TOKENБоттың қолданба API-ін шақыруға арналған токен.
PATH, HOME, TMPDIR, LANG, LC_ALL, TZӨзгеріссіз беріледі.

Стандартты шығыс пен стандартты қате деректер қалтасындағы sidecar.log файлына жазылады. Стандартты кіріс — арна; файлдың соңы Nebo жабылғанын білдіреді, сонда sidecar жұмысын аяқтауы тиіс. Sidecar өз процестер тобында жұмыс істейді.

Беттен келетін сұраулар

Бет neboFetch және салыстырмалы жол арқылы жасайтын /apps/<id>/api/<path> сұрауы path мәні <path> болып HandleRequest әдісіне жетеді. _ белгісінен басталатын жолдар қабылданбайды. Сұрау денесі 10 MB-пен, ал жауаптар 32 MB-пен шектеледі.

Қызметкерге арналған құралдар

Құралдарды қолданбаның agent.json файлында жариялаңыз. Әрқайсысы app__<app>__<name> деп аталатын құралға айналады және қызметкерге қажет болғанда жүктеледі. Шақыру sidecar-ға method мен path бойынша сұрауға айналады.

"tools": [
  {
    "name": "list_deals",
    "description": "List open deals, optionally filtered by stage.",
    "method": "GET",
    "path": "/deals",
    "input_schema": { "type": "object", "properties": { "stage": { "type": "string" } } }
  }
]

Nebo-ны шақыру

Sidecar бет пайдаланатын сол қызметтерді Authorization: Bearer $NEBO_APP_TOKEN тақырыбымен $NEBO_API_URL/api/v1/apps/$NEBO_APP_ID/... мекенжайын шақыру арқылы пайдалана алады.

МаршрутНе істейді
GET /storage, GET|PUT|DELETE /storage/<key>Қолданбаның кілт-мән қоймасы.
POST /agents/invoke, POST /agents/streamҚызметкерден сұрайды: {message, agent, data}. Ағындық жауаптар — server-sent events.
POST /janus/complete, POST /janus/streamМодельді тікелей шақыру: {messages, model, temperature, max_tokens, system}.
POST /http/proxyҚолданбаның network: рұқсаттары рұқсат еткен сыртқы сұрау, {url, method, headers, body}.
GET /identityҚолданбаның қызметкері.

Өмірлік цикл

  • Nebo сокетті әр үш секунд сайын тексереді.
  • Құлаған sidecar бір секундтан кейін қайта іске қосылады, кідіріс екі есе өсіп, ең көбі 60 секундқа жетеді. Қатарынан бес сәтсіздіктен кейін ол сәтсіз деп белгіленеді. 60 секунд бойы жұмыс істеп тұрған sidecar қайтадан жұмысқа жарамды саналады.
  • Тоқтап тұрған sidecar-ға келген сұрау оны іске қосып, 15 секундқа дейін күтеді. GET және HEAD сұраулары қайталанады.
  • Sidecar-ды тоқтату үшін Nebo оның процестер тобына SIGTERM жібереді, содан кейін екі секундтан соң оны мәжбүрлі түрде тоқтатады.