Microsoft süni intellekt agentlərinin fəaliyyətini yeni standartla nəzarətə götürür
Microsoft süni intellekt agentlərinin müxtəlif mühitlərdə düzgün işləməsi üçün təşəbbüs göstərir. Yeni açıq mənbə standartı inkişaf etdiricilərə agentlərin fəaliyyətini daha detallı və ardıcıl idarə etmək imkanı verir.
Süni intellekt agentləri getdikcə daha səmərəli olduqca, onları müxtəlif tətbiq və məhsullarda işə salan şirkətlər qarşısında yeni bir vəzifə yaranır: agentin mühitdən asılı olaraq düzgün işləməsinin təmin edilməsi.
Microsoft bu problemi açıq mənbə standartı olan Agent Control Specification (ACS) vasitəsilə həll etməyə çalışır. Bu standart inkişaf etdiricilərə agentlərin icazə verilən fəaliyyətlərini daha ardıcıl və detallı şəkildə idarə etmək imkanı yaradır.
Bu spesifikasiya inkişaf etdiricilərin, təhlükəsizlik və uyğunluq komandalarının agentlərin yerinə yetirməli olduğu siyasətləri təyin etməsinə imkan verir. Qaydalar agentin nə edə biləcəyini, nə etməməli olduğunu, hansı hallarda insan təsdiqinə ehtiyac olduğunu və sonrakı yoxlama üçün hansı sübutların qeyd olunmalı olduğunu müəyyənləşdirir. Bu siyasət sənədləri agentin vəzifəsini icra etdiyi müddətdə müxtəlif "intersepsiya nöqtələrində" yoxlanır ki, o, müəyyən edilmiş çərçivələrdən çıxmasın.
İnkişaf etdiricilər hazırda sistem göstərişi ilə təlimatlar verə, tətbiq koduna əlavə yoxlamalar qata, ya da problemli giriş və çıxışları tutmaq üçün təsnifatçılardan istifadə edə bilirlər. Lakin bu yanaşmalar şirkətlərdə idarəetmənin parçalanmasına, auditin və müxtəlif sistemlər arasında yenidən istifadənin çətin olmasına səbəb olur.
ACS bu nəzarətləri ümumi idarəetmə təbəqəsinə birləşdirməyi məqsəd qoyur. Microsoft bildirir ki, bu spesifikasiya agentin iş axınının bir neçə nöqtəsində – giriş almadan əvvəl, alət çağırmadan əvvəl, alət nəticəsini qəbul etdikdən sonra və son cavab istifadəçiyə göndərilməzdən əvvəl – müəyyən edilmiş qaydalara əməl edib-etmədiyini yoxlamağa imkan verir. Siyasət bir hərəkəti icazə verə, bloklaya, həssas məlumatları qırpa və ya insan təsdiqi tələb edə bilər.
İnkişaf etdiricilər həmçinin giriş və çıxışların təsnifatı üçün klassifikator, siyasətlər üzrə “hakim” rolunda böyük dil modelləri (LLM), alət çağırışlarının, alət seçiminin və cavabların düzgünlüyünün yoxlanması üçün məntiq əlavə edə bilərlər.
Bu siyasətlər tək fayl olaraq yazıla bildiyindən, onlar agentlə birlikdə bundllaşdırıla və təhlükəsizlik siyasətinin agentin müxtəlif çərçivələrdə davam etməsi təmin oluna bilər.
ACS LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI, MCP tools və digər platformalara plaginlərlə SDK şəklində təqdim edilir.
TechCrunch
Microsoft offers devs a better way to control AI agent behavior
Orijinal məqaləyə keç


