Microsoft poinformował o wydaniu zupełnie nowego narzędzia. Jego głównym celem jest znajdowanie oraz naprawianie błędów w odpowiedziach wygenerowanych przez sztuczną inteligencję. Tym samym zwiększyć ma się bezpieczeństwo tej zaawansowanej technologii, która mimo wszystko nadal nie działa idealnie. Korporacja chce również za wszelką cenę zmniejszyć skalę nadużyć w postaci m.in. wykorzystywania złośliwych promptów.
Microsoft zaczyna walczyć o bezpieczną sztuczną inteligencję
Sztuczna inteligencja wdrażana jest do coraz pokaźniejszej liczby usług oraz urządzeń. Niedawno informowaliśmy Was chociażby o nowych funkcjach w aplikacji Duolingo czy wypuszczenia laptopa ASUS Zenbook S 14 – wszędzie tam odnajdziemy AI, co raczej już nikogo nie dziwi. Największe globalne firmy starają się przy okazji sprawić, by technologia nie była sandboxem bez jakichkolwiek ograniczeń czy zasad.
Gigant z Redmond dał znać o uruchomieniu narzędzia o nazwie „correction”. Jest to kolejny krok ku zwalczenia nieprawidłowości i niedokładności generowanych przez nowoczesne modele językowe. Debiutująca funkcja ma automatycznie wykrywać oraz poprawiać złe odpowiedzi, co powinno znacząco zwiększyć wiarygodność czy skuteczność sztucznej inteligencji. Sposób działania ogłoszonego rozwiązania zobaczycie na poniższym materiale wideo:
Obecnie aktualizacja dostępna jest wyłącznie w formie podglądu na łamach Azure AI Studio. Microsoft chwali się możliwością lokalizowania charakterystycznych dla sztucznej inteligencji halucynacji czy identyfikowania złośliwych promptów. Aktywowana opcja sprawi, że obecność błędów będzie sprawdzana w każdej wygenerowanej wiadomości. Te natomiast zostaną odpowiednio podświetlone, by konsument mógł sprawdzić co początkowo poszło nie tak.
Jest poprawa, ale do ideału jeszcze sporo brakuje
Microsoft wykorzystuje do tego niewielkie, jak i ogromne modele językowe. Ma to stanowić kompleksowe rozwiązanie, choć nadal należy liczyć się z możliwością popełnienia błędów. Koncern twierdzi, że badanie dokumentów nie jest idealne, nie poprawia bowiem samej dokładności odpowiedzi, a wyłącznie nieścisłości w tych już wygenerowanych.
- Przeczytaj również: Gemini Live dla wszystkich. Odbądźcie swobodną rozmowę z AI
Konkurencja również pracuje nad rozwojem takich nowości. Przykładem jest chociażby Google, które posiada w swojej ofercie podobne systemy bezpieczeństwa – dzięki nim sztuczna inteligencja jest w stanie wyszukiwać zawartość zgodną z m.in. faktami naukowymi.
Źródło: The Verge / Zdjęcie otwierające: unsplash.com (@omilaev)