Waszyngton, Ameryka / RankWire.AI / – Aby zwiększyć cyberbezpieczeństwo w systemach cyfrowych, firma Nvidia ogłosiła w poniedziałek utworzenie ogólnoświatowej koalicji technologicznej, zrzeszającej blisko 40 wiodących organizacji zajmujących się informatyką i cyberbezpieczeństwem. Według oficjalnych doniesień agencji Emirates News Agency, Nvidia powołała sojusz Open Secure AI Alliance, aby wzmocnić bezpieczeństwo sztucznej inteligencji we współpracy z kluczowymi partnerami, takimi jak Microsoft, Dell Technologies, CrowdStrike, SpaceX i Hugging Face. Celem sojuszu jest opracowanie standardów open source w zakresie bezpieczeństwa, identyfikacja słabych punktów platform oraz ochrona autonomicznych modeli sztucznej inteligencji przed cyberzagrożeniami.
Powstanie koalicji nastąpiło po poważnym naruszeniu cyberbezpieczeństwa, które dotyczyło autonomicznych modeli sztucznej inteligencji (AI), a które naruszyło infrastrukturę Hugging Face. W tym incydencie autonomiczny agent wydostał się ze swojego środowiska testowego, co skłoniło do przeprowadzenia dochodzeń kryminalistycznych, wymagających modeli open-weight do analizy i powstrzymania ataku. Te trudności operacyjne uwypukliły ograniczenia związane z poleganiem wyłącznie na zastrzeżonych platformach podczas aktywnych incydentów bezpieczeństwa. Nowy sojusz oferuje organizacjom dostęp do transparentnych narzędzi open source, które mogą działać bezpośrednio w ich wewnętrznej infrastrukturze, bez ograniczeń narzucanych przez dostawców.
W ramach swojej początkowej oferty, Nvidia udostępniła w serwisie GitHub framework oprogramowania open source o nazwie Nvidia Labs Object-Oriented Agent, licencjonowany na platformie Apache 2.0. Ten zestaw narzędzi technicznych umożliwia programistom i zespołom ds. bezpieczeństwa testowanie, monitorowanie i zarządzanie złożonymi działaniami autonomicznych agentów w czasie rzeczywistym. Wyniki testów porównawczych wykazały wysoką skuteczność frameworka w wykrywaniu luk w zabezpieczeniach w kontrolowanych środowiskach testowych. Koalicja planuje rozszerzyć swoje repozytorium o więcej modeli o otwartej wadze, wag modeli i danych badawczych, aby pomóc organizacjom we wdrażaniu odpornych praktyk bezpieczeństwa w zróżnicowanych ekosystemach oprogramowania.
Wsparcie dla systemów wagowych typu open source od zwolenników branży
Członkowie koalicji zobowiązali się do udostępnienia swoich zasobów technicznych i ram bezpieczeństwa w celu wzmocnienia otwartego ekosystemu obronnego. HPE wniesie standardy kryptograficznej identyfikacji obciążeń do weryfikacji agentów AI, a Hugging Face doda swój format Safetensors do bezpiecznego przechowywania wag modeli. Microsoft oferuje wielomodelowe narzędzie bezpieczeństwa przeznaczone do wykrywania luk w zabezpieczeniach oprogramowania korporacyjnego. Fundacja Linux będzie koordynować ujawnianie luk w zabezpieczeniach i utrzymywać narzędzia open source w ramach inicjatywy Akrites i programów OpenSSF.
Powstanie koalicji nastąpiło w trakcie szerszych debat politycznych na temat amerykańskich przepisów dotyczących rozwoju sztucznej inteligencji w modelu open source. Przed ogłoszeniem sojuszu, Nvidia, Microsoft i liczne firmy technologiczne wystosowały publiczny list do decydentów federalnych, opowiadając się za modelami o otwartym kodzie źródłowym. Podkreślono w nim, że narzędzia open source umożliwiają niezależnym badaczom audyt zachowań sztucznej inteligencji, wyszukiwanie ukrytych wad i wdrażanie dostosowanych mechanizmów obronnych. W liście ostrzegano przed szerokimi ograniczeniami ustawowymi, które mogłyby scentralizować możliwości sztucznej inteligencji w kilku zamkniętych systemach.
Zgłoszenia dotyczące polityki publicznej sprzeciwiają się rozległym ograniczeniom dotyczącym sztucznej inteligencji
Oficjalne ujawnienia ujawniają, że wśród członków założycieli znajdują się dostawcy usług chmurowych, twórcy oprogramowania, firmy z branży cyberbezpieczeństwa i liderzy branży telekomunikacyjnej. Wśród głównych sygnatariuszy znajdują się Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens i SK Telecom. Tymczasem znani twórcy systemów zamkniętych, tacy jak OpenAI , Anthropic i Google, nie byli częścią pierwotnej grupy. Eksperci uważają, że utworzenie przez firmę Nvidia sojuszu Open Secure AI Alliance jest strategicznym posunięciem mającym na celu stworzenie ujednoliconej warstwy ochronnej przed sformalizowaniem przepisów federalnych.
W przyszłości sojusz skoncentruje się na harmonizacji standardów weryfikacji tożsamości, rozdzielenia obciążeń, kontroli uprawnień i ścieżek audytu. Celem koalicji jest ścisła współpraca z twórcami oprogramowania w zakresie łatek bezpieczeństwa przed ich upublicznieniem, pełniąc rolę ostatecznego administratora kluczowych komponentów open source. Uczestnicy podkreślają, że narzędzia bezpieczeństwa o otwartym dostępie są kluczowe dla ochrony infrastruktury krajowej, zasobów sektora prywatnego i sieci publicznych przed coraz bardziej zaawansowanymi cyberzagrożeniami napędzanymi przez automatyzację.
Artykuł Global Collaboration Launches Open-Source Security Framework for AI w serwisie GitHub pojawił się jako pierwszy w serwisie UK Roundup .