करार
साइडकार म्हणजे Unix सॉकेटवरील gRPC सर्व्हर. NEBO_APP_SOCK मधील पाथवर ऐका आणि apps.v0.UIService अंमलात आणा. Nebo प्रत्येक विनंतीसाठी HandleRequest कॉल करतो; HealthCheck आणि Configure सेवेचा भाग आहेत पण आज कॉल केले जात नाहीत. सॉकेट मॅनिफेस्टच्या startup_timeout आत दिसले पाहिजे, जे डिफॉल्टनुसार 10 सेकंद असते आणि जास्तीत जास्त 120 असू शकते.
syntax = "proto3";
package apps.v0;
service UIService {
rpc HealthCheck(HealthCheckRequest) returns (HealthCheckResponse);
rpc Configure(SettingsMap) returns (Empty);
rpc HandleRequest(HttpRequest) returns (HttpResponse);
}
message HttpRequest {
string method = 1; // GET, POST, PUT, DELETE, ...
string path = 2; // relative to /apps/{id}/api/
string query = 3; // raw query string
map<string, string> headers = 4;
bytes body = 5;
}
message HttpResponse {
int32 status_code = 1;
map<string, string> headers = 2;
bytes body = 3;
} साइडकार macOS आणि Linux वर चालतात.
Nebo ला बायनरी कुठे सापडते
ॲपच्या फोल्डरमध्ये, यांपैकी अस्तित्वात असलेले पहिले Nebo वापरतो:
binaryनावाची फाइलappनावाची फाइलtmp/मधील पहिली फाइलbin/मधील पहिली फाइल- स्थानिक डेव्हलपमेंटसाठी,
sidecar/target/release/मधील पहिले एक्झिक्युटेबल
बायनरी सामान्य, एक्झिक्युटेबल फाइल असली पाहिजे, symbolic link नव्हे, आणि जास्तीत जास्त 500 MB. प्रकाशित ॲप्समध्ये ती bin/<name> येथे असते. डिस्कवर फाइल बदलल्यावर, Nebo साइडकार पुन्हा सुरू करतो.
एन्व्हायरनमेंट
साइडकार रिकाम्या एन्व्हायरनमेंटसह आणि या व्हेरिएबलसह सुरू होतो:
| व्हेरिएबल | मूल्य |
|---|---|
NEBO_APP_ID, NEBO_APP_NAME, NEBO_APP_VERSION | ॲपची ओळख. |
NEBO_APP_DIR | ॲपचे फोल्डर. |
NEBO_APP_SOCK | ऐकायचे सॉकेट, <app folder>/<id>.sock. Nebo त्याचा मोड 0600 सेट करतो. |
NEBO_DATA_DIR | ॲपचे डेटा फोल्डर, <data>/appdata/agents/<id>/. हीच कार्यरत डिरेक्टरीही आहे. |
NEBO_API_URL | बॉटचे स्थानिक API, http://127.0.0.1:<port>. |
NEBO_APP_TOKEN | बॉटच्या ॲप API ला कॉल करण्यासाठी टोकन. |
PATH, HOME, TMPDIR, LANG, LC_ALL, TZ | जसाच्या तसा पुढे दिला जातो. |
Standard output आणि standard error डेटा फोल्डरमधील sidecar.log मध्ये जातात. Standard input हा पाइप आहे; फाइलचा शेवट म्हणजे Nebo निघून गेला आहे आणि साइडकारने बाहेर पडावे. साइडकार स्वतःच्या प्रोसेस ग्रुपमध्ये चालतो.
पृष्ठाकडून येणाऱ्या विनंत्या
/apps/<id>/api/<path> ला केलेली विनंती, जी पृष्ठ neboFetch आणि सापेक्ष पाथने करते, path हे <path> वर सेट करून HandleRequest पर्यंत पोहोचते. _ ने सुरू होणारे पाथ नाकारले जातात. विनंतीचा मुख्य भाग 10 MB आणि प्रतिसाद 32 MB पर्यंत मर्यादित आहेत.
कर्मचाऱ्यासाठी साधने
ॲपच्या agent.json मध्ये साधने घोषित करा. प्रत्येक app__<app>__<name> नावाचे साधन बनते, कर्मचाऱ्याला गरज असेल तेव्हा लोड होणारे. कॉल साइडकारकडे method आणि path वर विनंती बनतो.
"tools": [
{
"name": "list_deals",
"description": "List open deals, optionally filtered by stage.",
"method": "GET",
"path": "/deals",
"input_schema": { "type": "object", "properties": { "stage": { "type": "string" } } }
}
] Nebo ला कॉल करणे
Authorization: Bearer $NEBO_APP_TOKEN हेडरसह $NEBO_API_URL/api/v1/apps/$NEBO_APP_ID/... कॉल करून साइडकार पृष्ठाप्रमाणेच सेवा वापरू शकतो.
| मार्ग | काय करते |
|---|---|
GET /storage, GET|PUT|DELETE /storage/<key> | ॲपचे key-value स्टोअर. |
POST /agents/invoke, POST /agents/stream | कर्मचाऱ्याला विचारते: {message, agent, data}. स्ट्रीम प्रतिसाद server-sent events असतात. |
POST /janus/complete, POST /janus/stream | थेट मॉडेल कॉल: {messages, model, temperature, max_tokens, system}. |
POST /http/proxy | बाहेरील विनंती, {url, method, headers, body}, ॲपच्या network: परवानग्यांनी परवानगी दिलेली. |
GET /identity | ॲपचा कर्मचारी. |
जीवनचक्र
- Nebo दर तीन सेकंदांनी सॉकेट तपासतो.
- अयशस्वी साइडकार एका सेकंदानंतर पुन्हा सुरू होतो, हा वेळ दुप्पट होत जास्तीत जास्त 60 सेकंदांपर्यंत जातो. सलग पाच अपयशांनंतर तो अयशस्वी म्हणून चिन्हांकित होतो. 60 सेकंद चालू राहणारा साइडकार पुन्हा निरोगी मानला जातो.
- थांबलेल्या साइडकारला आलेली विनंती तो सुरू करते आणि 15 सेकंदांपर्यंत वाट पाहते. GET आणि HEAD विनंत्या पुन्हा केल्या जातात.
- साइडकार थांबवण्यासाठी, Nebo त्याच्या प्रोसेस ग्रुपला SIGTERM पाठवतो, मग दोन सेकंदांनंतर तो बंद करतो.