Jedną z najważniejszych zalet przejrzystości jest możliwość wyjaśnienia . Czasami wymogiem prawnym jest podanie wyjaśnienia, dlaczego podjęto daną decyzję, aby zapewnić jej uczciwość, na przykład w przypadku automatycznego filtrowania aplikacji o pracę lub przypisywania wyników oceny kredytowej.
Wykrywanie trojanów Modele uczenia maszynowego mogą potencjalnie zawierać konie trojańskie lub furtki: luki, które złośliwi użytkownicy złośliwie umieszczają w systemie sztucznej inteligencji. Jako przykład, zainfekowany trojanem system rozpoznawania twarzy mógłby udzielić dostępu, gdy w polu widzenia znajduje się konkretny element biżuterii lub zainfekowany trojanem pojazd autonomiczny mógłby działać normalnie, dopóki nie pojawi się konkretny wyzwalacz.
Duże modele językowe są podatne na osadzenie furtek podczas treningu w formie uśpionych agentów. Standardowe środki bezpieczeństwa sztucznej inteligencji, takie jak uczenie nadzorowane czy uczenie przez wzmacnianie nie usunęły tych backdoorów.
Problem zgodności Zgodność sztucznej inteligencji ma na celu kierowanie systemami AI w stronę zamierzonych celów, preferencji lub zasad etycznych osoby lub grupy. System AI jest uważany za dopasowany, jeśli realizuje zamierzone cele. Niedopasowany system AI realizuje niezamierzone cele.
Przypisy
Kategoria:Cybernetyka Kategoria:Sztuczna inteligencja Kategoria:Bezpieczeństwo komputerowe