NeboAI
NeboAI
শুরু করুন

অ্যাপ সাইডকার

একটি সাইডকার হলো একটি বাইনারি, যা একটি অ্যাপের পাশে চলে। এটি পাতার API পরিবেশন করে, অ্যাপের ডেটা রাখে, এবং অ্যাপের কর্মীকে টুল দেয়। Nebo এটি চালু করে, একটি লোকাল সকেটের মাধ্যমে এতে অনুরোধ পাঠায়, এবং ব্যর্থ হলে রিস্টার্ট করে।

চুক্তি

একটি সাইডকার হলো Unix সকেটের ওপর একটি gRPC সার্ভার। NEBO_APP_SOCK-এর পাথে শুনুন এবং apps.v0.UIService ইমপ্লিমেন্ট করুন। Nebo প্রতিটি অনুরোধের জন্য HandleRequest কল করে; HealthCheck ও Configure সার্ভিসের অংশ, তবে আজ কল করা হয় না। ম্যানিফেস্টের startup_timeout-এর মধ্যে সকেটটি দেখা দিতে হবে, যার ডিফল্ট 10 সেকেন্ড এবং সর্বোচ্চ 120 হতে পারে।

syntax = "proto3";
package apps.v0;

service UIService {
  rpc HealthCheck(HealthCheckRequest) returns (HealthCheckResponse);
  rpc Configure(SettingsMap) returns (Empty);
  rpc HandleRequest(HttpRequest) returns (HttpResponse);
}

message HttpRequest {
  string method = 1;               // GET, POST, PUT, DELETE, ...
  string path = 2;                 // relative to /apps/{id}/api/
  string query = 3;                // raw query string
  map<string, string> headers = 4;
  bytes body = 5;
}

message HttpResponse {
  int32 status_code = 1;
  map<string, string> headers = 2;
  bytes body = 3;
}

সাইডকার চলে macOS ও Linux-এ।

Nebo বাইনারি কোথায় খুঁজে পায়

অ্যাপের ফোল্ডারে, এগুলোর মধ্যে প্রথম যেটি পাওয়া যায় Nebo সেটি ব্যবহার করে:

  1. binary নামের একটি ফাইল
  2. app নামের একটি ফাইল
  3. tmp/-এর প্রথম ফাইল
  4. bin/-এর প্রথম ফাইল
  5. লোকাল ডেভেলপমেন্টের জন্য sidecar/target/release/-এর প্রথম এক্সিকিউটেবল

বাইনারিটি একটি সাধারণ, এক্সিকিউটেবল ফাইল হতে হবে, সিম্বলিক লিংক নয়, এবং সর্বোচ্চ 500 MB। প্রকাশিত অ্যাপগুলো এটি রাখে bin/<name>-এ। ডিস্কে ফাইলটি বদলালে Nebo সাইডকার রিস্টার্ট করে।

এনভায়রনমেন্ট

সাইডকার শুরু হয় একটি ফাঁকা এনভায়রনমেন্ট এবং এই ভেরিয়েবলগুলো নিয়ে:

ভেরিয়েবলমান
NEBO_APP_ID, NEBO_APP_NAME, NEBO_APP_VERSIONঅ্যাপের পরিচয়।
NEBO_APP_DIRঅ্যাপের ফোল্ডার।
NEBO_APP_SOCKযে সকেটে শুনতে হবে, <app folder>/<id>.sock। Nebo এর মোড 0600-এ সেট করে।
NEBO_DATA_DIRঅ্যাপের ডেটা ফোল্ডার, <data>/appdata/agents/<id>/। এটি ওয়ার্কিং ডিরেক্টরিও।
NEBO_API_URLবটের লোকাল API, http://127.0.0.1:<port>।
NEBO_APP_TOKENবটের অ্যাপ API কল করার জন্য একটি টোকেন।
PATH, HOME, TMPDIR, LANG, LC_ALL, TZযেমন আছে তেমন দেওয়া হয়।

স্ট্যান্ডার্ড আউটপুট ও স্ট্যান্ডার্ড এরর যায় ডেটা ফোল্ডারের sidecar.log-এ। স্ট্যান্ডার্ড ইনপুট একটি পাইপ; ফাইলের শেষ মানে Nebo চলে গেছে এবং সাইডকারের বেরিয়ে যাওয়া উচিত। সাইডকার নিজের প্রসেস গ্রুপে চলে।

পাতা থেকে আসা অনুরোধ

/apps/<id>/api/<path>-এ একটি অনুরোধ, যা পাতা neboFetch ও একটি আপেক্ষিক পাথ দিয়ে করে, path-কে <path>-এ সেট করে HandleRequest-এ পৌঁছায়। _ দিয়ে শুরু হওয়া পাথ প্রত্যাখ্যাত হয়। অনুরোধের বডি সর্বোচ্চ 10 MB এবং উত্তর সর্বোচ্চ 32 MB।

কর্মীর জন্য টুল

অ্যাপের agent.json-এ টুল ঘোষণা করুন। প্রতিটি হয়ে ওঠে app__<app>__<name> নামের একটি টুল, যা কর্মীর দরকার হলে লোড হয়। একটি কল method ও path-এ সাইডকারের কাছে একটি অনুরোধে পরিণত হয়।

"tools": [
  {
    "name": "list_deals",
    "description": "List open deals, optionally filtered by stage.",
    "method": "GET",
    "path": "/deals",
    "input_schema": { "type": "object", "properties": { "stage": { "type": "string" } } }
  }
]

Nebo-কে কল করা

সাইডকার Authorization: Bearer $NEBO_APP_TOKEN হেডারসহ $NEBO_API_URL/api/v1/apps/$NEBO_APP_ID/... কল করে পাতার মতো একই সেবাগুলো ব্যবহার করতে পারে।

রুটযা করে
GET /storage, GET|PUT|DELETE /storage/<key>অ্যাপের key-value স্টোর।
POST /agents/invoke, POST /agents/streamএকজন কর্মীকে জিজ্ঞেস করে: {message, agent, data}। স্ট্রিম উত্তরগুলো server-sent events।
POST /janus/complete, POST /janus/streamএকটি সরাসরি মডেল কল: {messages, model, temperature, max_tokens, system}।
POST /http/proxyএকটি বাইরের অনুরোধ, {url, method, headers, body}, অ্যাপের network: অনুমতি দ্বারা অনুমোদিত।
GET /identityঅ্যাপের কর্মী।

আয়ুষ্কাল

  • Nebo প্রতি তিন সেকেন্ডে সকেটটি যাচাই করে।
  • একটি ব্যর্থ সাইডকার এক সেকেন্ড পরে রিস্টার্ট হয়, প্রতিবার দ্বিগুণ হয়ে সর্বোচ্চ 60 সেকেন্ড পর্যন্ত। পরপর পাঁচবার ব্যর্থ হলে এটি ব্যর্থ হিসেবে চিহ্নিত হয়। যে সাইডকার 60 সেকেন্ড চালু থাকে, সেটি আবার সুস্থ হিসেবে গণ্য হয়।
  • একটি থেমে থাকা সাইডকারে অনুরোধ এলে সেটি চালু হয় এবং সর্বোচ্চ 15 সেকেন্ড অপেক্ষা করে। GET ও HEAD অনুরোধ আবার চেষ্টা করা হয়।
  • একটি সাইডকার থামাতে Nebo তার প্রসেস গ্রুপে SIGTERM পাঠায়, তারপর দুই সেকেন্ড পরে সেটি বন্ধ করে দেয়।