NeboAI
NeboAI
Bẹ̀rẹ̀

Sidecar áàpù

Sidecar jẹ́ binary tí ó ń ṣiṣẹ́ lẹ́gbẹ̀ẹ́ áàpù kan. Ó ń pèsè API ojú-ìwé náà, ó ń pa dátà áàpù náà mọ́, ó sì ń fún òṣìṣẹ́ áàpù náà ní àwọn irinṣẹ́. Nebo ló ń bẹ̀rẹ̀ rẹ̀, ó ń darí àwọn ìbéèrè sí i lórí socket orí ẹ̀rọ, ó sì ń tún un bẹ̀rẹ̀ nígbà tí ó bá kùnà.

Àdéhùn náà

Sidecar jẹ́ sáfà gRPC lórí Unix socket. Gbọ́ lórí ọ̀nà tí ó wà nínú NEBO_APP_SOCK kí o sì ṣe apps.v0.UIService. Nebo ń pe HandleRequest fún gbogbo ìbéèrè; HealthCheck àti Configure jẹ́ apá kan iṣẹ́ náà ṣùgbọ́n a kì í pè wọ́n lónìí. Socket náà gbọ́dọ̀ fara hàn láàárín startup_timeout manifest náà, èyí tí ìpìlẹ̀ rẹ̀ jẹ́ ìṣẹ́jú-àáyá 10, tí ó sì lè jẹ́ 120 ní pọ̀ jù.

syntax = "proto3";
package apps.v0;

service UIService {
  rpc HealthCheck(HealthCheckRequest) returns (HealthCheckResponse);
  rpc Configure(SettingsMap) returns (Empty);
  rpc HandleRequest(HttpRequest) returns (HttpResponse);
}

message HttpRequest {
  string method = 1;               // GET, POST, PUT, DELETE, ...
  string path = 2;                 // relative to /apps/{id}/api/
  string query = 3;                // raw query string
  map<string, string> headers = 4;
  bytes body = 5;
}

message HttpResponse {
  int32 status_code = 1;
  map<string, string> headers = 2;
  bytes body = 3;
}

Àwọn sidecar ń ṣiṣẹ́ lórí macOS àti Linux.

Ibi tí Nebo ti ń rí binary náà

Nínú fódà áàpù náà, Nebo ń lo èyí àkọ́kọ́ tí ó wà nínú àwọn wọ̀nyí:

  1. Fáìlì tí a pè ní binary
  2. Fáìlì tí a pè ní app
  3. Fáìlì àkọ́kọ́ nínú tmp/
  4. Fáìlì àkọ́kọ́ nínú bin/
  5. Fáìlì aláṣẹ àkọ́kọ́ nínú sidecar/target/release/, fún ìgbéejáde orí ẹ̀rọ

Binary náà gbọ́dọ̀ jẹ́ fáìlì aláṣẹ déédéé, kì í ṣe ìjápọ̀ symbolic, kò sì gbọ́dọ̀ ju 500 MB lọ. Àwọn áàpù tí a ti tẹ̀ jáde ń gbé e ní bin/<name>. Nígbà tí fáìlì náà bá yí padà lórí disk, Nebo ń tún sidecar náà bẹ̀rẹ̀.

Àyíká

Sidecar náà ń bẹ̀rẹ̀ pẹ̀lú àyíká tí ó ṣófo àti àwọn àyípadà wọ̀nyí:

ÀyípadàIye
NEBO_APP_ID, NEBO_APP_NAME, NEBO_APP_VERSIONÌdánimọ̀ áàpù náà.
NEBO_APP_DIRFódà áàpù náà.
NEBO_APP_SOCKSocket tí a ó gbọ́ lé lórí, <app folder>/<id>.sock. Nebo ń ṣètò ipò rẹ̀ sí 0600.
NEBO_DATA_DIRFódà dátà áàpù náà, <data>/appdata/agents/<id>/. Ó tún jẹ́ fódà iṣẹ́.
NEBO_API_URLAPI orí ẹ̀rọ bot náà, http://127.0.0.1:<port>.
NEBO_APP_TOKENToken fún pípe API áàpù bot náà.
PATH, HOME, TMPDIR, LANG, LC_ALL, TZA gbé e kọjá.

Ìjáde boṣewa àti àṣìṣe boṣewa ń lọ sí sidecar.log nínú fódà dátà. Ìgbéwọlé boṣewa jẹ́ pipe; òpin fáìlì túmọ̀ sí pé Nebo ti lọ, sidecar náà sì yẹ kí ó jáde. Sidecar náà ń ṣiṣẹ́ nínú ẹgbẹ́ ìlànà tirẹ̀.

Àwọn ìbéèrè láti ojú-ìwé

Ìbéèrè sí /apps/<id>/api/<path>, tí ojú-ìwé ń ṣe pẹ̀lú neboFetch àti ọ̀nà ìbátan kan, ń dé HandleRequest pẹ̀lú path tí a ṣètò sí <path>. A ń kọ àwọn ọ̀nà tí ó bẹ̀rẹ̀ pẹ̀lú _. Ara ìbéèrè kò lè ju 10 MB lọ, ìdáhùn kò sì lè ju 32 MB lọ.

Àwọn irinṣẹ́ fún òṣìṣẹ́ náà

Kéde àwọn irinṣẹ́ nínú agent.json áàpù náà. Ọ̀kọ̀ọ̀kan ń di irinṣẹ́ tí a pè ní app__<app>__<name>, tí a ń gbé wọlé nígbà tí òṣìṣẹ́ náà bá nílò rẹ̀. Ìpè kan ń di ìbéèrè sí sidecar ní method àti path.

"tools": [
  {
    "name": "list_deals",
    "description": "List open deals, optionally filtered by stage.",
    "method": "GET",
    "path": "/deals",
    "input_schema": { "type": "object", "properties": { "stage": { "type": "string" } } }
  }
]

Pípe Nebo

Sidecar náà lè lo àwọn iṣẹ́ kan náà bí ojú-ìwé nípa pípe $NEBO_API_URL/api/v1/apps/$NEBO_APP_ID/... pẹ̀lú header Authorization: Bearer $NEBO_APP_TOKEN.

Ọ̀nàOhun tí ó ń ṣe
GET /storage, GET|PUT|DELETE /storage/<key>Ibi ìpamọ́ kọ́kọ́rọ́-iye áàpù náà.
POST /agents/invoke, POST /agents/streamÓ ń béèrè lọ́wọ́ òṣìṣẹ́ kan: {message, agent, data}. Àwọn ìdáhùn ìṣàn jẹ́ server-sent events.
POST /janus/complete, POST /janus/streamÌpè àwòṣe tààrà: {messages, model, temperature, max_tokens, system}.
POST /http/proxyÌbéèrè òde, {url, method, headers, body}, tí àwọn àṣẹ network: áàpù náà gbà láàyè.
GET /identityÒṣìṣẹ́ áàpù náà.

Ìgbà ayé

  • Nebo ń yẹ socket náà wò ní gbogbo ìṣẹ́jú-àáyá mẹ́ta.
  • Sidecar tí ó kùnà ń tún bẹ̀rẹ̀ lẹ́yìn ìṣẹ́jú-àáyá kan, tí ó ń di ìlọ́po méjì títí dé ìṣẹ́jú-àáyá 60 ní pọ̀ jù. Lẹ́yìn ìkùnà márùn-ún tí ó tẹ̀léra, a ń sàmì sí i pé ó ti kùnà. Sidecar tí ó bá wà ní ṣíṣiṣẹ́ fún ìṣẹ́jú-àáyá 60 tún padà ní ìlera.
  • Ìbéèrè sí sidecar tí ó dúró ń bẹ̀rẹ̀ rẹ̀, ó sì ń dúró títí dé ìṣẹ́jú-àáyá 15. A ń tún àwọn ìbéèrè GET àti HEAD gbìyànjú.
  • Láti dá sidecar kan dúró, Nebo ń fi SIGTERM ránṣẹ́ sí ẹgbẹ́ ìlànà rẹ̀, lẹ́yìn náà ó ń pa á lẹ́yìn ìṣẹ́jú-àáyá méjì.