Wprowadzenie
Unijna ustawa o sztucznej inteligencji (UE AI Act) to przełomowe rozporządzenie, którego celem jest promowanie rozwoju i wdrażania godnych zaufania systemów sztucznej inteligencji. Ponieważ przedsiębiorstwa w coraz większym stopniu polegają na technologiach sztucznej inteligencji, w tym sztucznej inteligencji mowy i modelach wielkojęzykowych (LLM), zgodność z unijną ustawą o sztucznej inteligencji staje się kluczowa. W tym poście na blogu omówiono kluczowe wyzwania wynikające z rozporządzenia oraz opisano, w jaki sposób Shaip może pomóc Ci je pokonać.
Zrozumienie unijnej ustawy o sztucznej inteligencji
Ustawa Unii Europejskiej o sztucznej inteligencji (ustawa UE o sztucznej inteligencji) wprowadza podejście oparte na ryzyku do regulowania systemów sztucznej inteligencji, kategoryzując je na podstawie ich potencjalnego wpływu na jednostki i społeczeństwo. W miarę jak przedsiębiorstwa opracowują i wdrażają technologie sztucznej inteligencji, zrozumienie poziomów ryzyka związanych z różnymi kategoriami danych ma kluczowe znaczenie dla zapewnienia zgodności z unijną ustawą o sztucznej inteligencji. Unijna ustawa o sztucznej inteligencji klasyfikuje systemy sztucznej inteligencji na cztery kategorie ryzyka: ryzyko minimalne, ograniczone, wysokie i niedopuszczalne.
Na podstawie wniosku dotyczącego ustawy o sztucznej inteligencji (2021/0106(COD)) poniżej znajdują się kategorie ryzyka oraz odpowiadające im typy danych i branże w formie tabeli:
Systemy sztucznej inteligencji o niedopuszczalnym ryzyku:
| Typy danych | Branże |
| Podprogowe techniki zniekształcania zachowania | Wszystkie produkty |
| Wykorzystywanie słabych punktów określonych grup | Wszystkie produkty |
| scoring społeczny przez władze publiczne | Rząd |
| Zdalna identyfikacja biometryczna w czasie rzeczywistym w przestrzeniach publicznie dostępnych dla organów ścigania (z wyjątkami) | Egzekwowanie prawa |
Systemy sztucznej inteligencji wysokiego ryzyka:
| Typy danych | Branże |
| Identyfikacja biometryczna i kategoryzacja osób fizycznych | Egzekwowanie prawa, kontrola graniczna, sądownictwo, infrastruktura krytyczna |
| Zarządzanie i eksploatacja infrastruktury krytycznej | Narzędzia, transport |
| Szkolenie edukacyjno-zawodowe | Wykształcenie |
| Zatrudnienie, zarządzanie pracownikami, dostęp do samozatrudnienia | HR |
| Dostęp do podstawowych usług prywatnych i publicznych oraz korzystanie z nich | Usługi rządowe, finanse, zdrowie |
| Egzekwowanie prawa | Egzekwowanie prawa, wymiar sprawiedliwości w sprawach karnych |
| Zarządzanie migracją, azylem i kontrolą granic | Kontrola graniczna |
| Wymiar sprawiedliwości i procesy demokratyczne | Sądownictwo, wybory |
| Elementy bezpieczeństwa maszyn, pojazdów i innych produktów | Produkcja, motoryzacja, lotnictwo, urządzenia medyczne |
Systemy AI o ograniczonym ryzyku:
| Typy danych | Branże |
| Rozpoznawanie emocji lub kategoryzacja biometryczna | Al |
| Systemy generujące treści lub manipulujące nimi („głębokie podróbki”) | Media, rozrywka |
| Systemy AI przeznaczone do interakcji z osobami fizycznymi | Obsługa klienta, sprzedaż, rozrywka |
Systemy AI o minimalnym ryzyku:
| Typy danych | Branże |
| Gry wideo obsługujące sztuczną inteligencję | rozrywka |
| AI do filtrowania spamu | Wszystkie produkty |
| Sztuczna inteligencja w zastosowaniach przemysłowych bez wpływu na prawa podstawowe i bezpieczeństwo | Produkcja, logistyka |
Powyższe tabele zawierają ogólne podsumowanie tego, w jaki sposób różne typy danych i branże są powiązane z kategoriami ryzyka sztucznej inteligencji określonymi w proponowanym rozporządzeniu. Aktualny tekst zawiera bardziej szczegółowe kryteria i definicje zakresu. Ogólnie rzecz biorąc, systemy sztucznej inteligencji stwarzające niedopuszczalne ryzyko dla bezpieczeństwa i praw podstawowych są zakazane, natomiast systemy stwarzające wysokie ryzyko podlegają rygorystycznym wymogom i ocenom zgodności. Systemy o ograniczonym ryzyku mają głównie obowiązki w zakresie przejrzystości, podczas gdy sztuczna inteligencja o minimalnym ryzyku nie ma żadnych dodatkowych wymagań wykraczających poza obowiązujące przepisy.
Kluczowe wymagania dotyczące systemów sztucznej inteligencji wysokiego ryzyka zgodnie z unijną ustawą o sztucznej inteligencji.
Ustawa UE o sztucznej inteligencji stanowi, że dostawcy systemów sztucznej inteligencji wysokiego ryzyka muszą przestrzegać określonych obowiązków, aby ograniczyć potencjalne ryzyko oraz zapewnić wiarygodność i przejrzystość swoich systemów sztucznej inteligencji. Wymienione wymagania są następujące:
- Wdrożyć system zarządzania ryzykiem identyfikowanie i ograniczanie ryzyka w całym cyklu życia systemu sztucznej inteligencji.
- Zastosowanie wysokiej jakości, istotne i bezstronne dane szkoleniowe reprezentatywne i wolne od błędów i uprzedzeń.
- Utrzymać szczegółowa dokumentacja celu, projektu i rozwoju systemu AI.
- Zapewniać transparentność oraz zapewniać użytkownikom jasne informacje na temat możliwości, ograniczeń i potencjalnych zagrożeń systemu AI.
- Wdrożenie środki nadzoru ludzkiego aby zapewnić, że systemy sztucznej inteligencji wysokiego ryzyka podlegają kontroli człowieka i w razie potrzeby można je obejść lub dezaktywować.
- Zapewniać solidność, dokładność i cyberbezpieczeństwo ochrona przed nieuprawnionym dostępem, atakami lub manipulacjami.
Wyzwania dla sztucznej inteligencji mowy i LLM
Sztuczna inteligencja mowy i technologie LLM często zaliczają się do kategorii wysokiego ryzyka ze względu na ich potencjalny wpływ na prawa podstawowe i ryzyko społeczne. Niektóre z wyzwań, przed którymi stają firmy podczas opracowywania i wdrażania tych technologii, obejmują:
- Zbieranie i przetwarzanie wysokiej jakości, bezstronnych danych szkoleniowych
- Łagodzenie potencjalnych błędów w modelach sztucznej inteligencji
- Zapewnienie przejrzystości i wyjaśnialności systemów sztucznej inteligencji
- Wdrażanie skutecznych mechanizmów nadzoru i kontroli ze strony człowieka
Jak Shaip pomaga Ci poruszać się po kategoriach ryzyka
Rozwiązania Shaip w zakresie danych AI i usługi oceny modeli są dostosowane tak, aby pomóc Ci poruszać się po złożoności kategorii ryzyka określonych w ustawie UE o sztucznej inteligencji:
Minimalne i ograniczone ryzyko
W przypadku systemów sztucznej inteligencji o minimalnym lub ograniczonym ryzyku Shaip może pomóc Ci zapewnić zgodność z wymogami w zakresie przejrzystości, dostarczając jasną dokumentację naszych procesów gromadzenia danych i dodawania adnotacji.
Wysokie ryzyko
W przypadku systemów Speech AI i LLM wysokiego ryzyka Shaip oferuje kompleksowe rozwiązania, które pomogą Ci spełnić rygorystyczne wymagania:
- Szczegółowa dokumentacja procesów gromadzenia danych i dodawania adnotacji, aby zapewnić przejrzystość
- Dane etyczne AI dla mowy AI: Nasze procesy gromadzenia danych traktują priorytetowo zgodę użytkownika, prywatność danych (minimalizacja informacji umożliwiających identyfikację) i usuwanie uprzedzeń opartych na danych demograficznych, czynnikach społeczno-ekonomicznych lub kontekstach kulturowych. Dzięki temu modele sztucznej inteligencji mowy są zgodne z ustawą UE dotyczącą sztucznej inteligencji i pozwalają uniknąć dyskryminujących wyników.
- Łagodzenie stronniczości w danych dotyczących mowy: Rozumiemy niuanse języka mówionego i potencjalne błędy, które mogą wkraść się do danych. Nasz zespół skrupulatnie analizuje dane, aby zidentyfikować i wyeliminować potencjalne błędy systematyczne, zapewniając uczciwsze i bardziej niezawodne systemy mowy AI.
- Ocena modelu pod kątem zgodności z ustawą UE dotyczącą sztucznej inteligencji: Rozwiązania firmy Shaip do oceny i porównywania modeli umożliwiają ocenę modeli sztucznej inteligencji mowy pod kątem takich czynników, jak trafność, bezpieczeństwo i potencjalne błędy systematyczne. Dzięki temu Twoje modele spełniają wymogi europejskiej ustawy o sztucznej inteligencji dotyczące przejrzystości i uczciwości.
Niedopuszczalne ryzyko
Zaangażowanie firmy Shaip w etyczne praktyki w zakresie sztucznej inteligencji gwarantuje, że nasze rozwiązania i usługi w zakresie danych nie przyczyniają się do rozwoju systemów sztucznej inteligencji obarczonych niedopuszczalnym ryzykiem, pomagając uniknąć praktyk zabronionych na mocy unijnej ustawy o sztucznej inteligencji.
Jak Shaip może pomóc
Dzięki współpracy z Shaip firmy mogą bez obaw poruszać się po zawiłościach unijnej ustawy o sztucznej inteligencji, jednocześnie opracowując najnowocześniejsze technologie Speech AI i LLM.
Poruszanie się po kategoriach ryzyka określonych w ustawie UE o sztucznej inteligencji może być trudne, ale nie musisz tego robić sam. Nawiąż współpracę z Shaip już dziś, aby uzyskać dostęp do wskazówek ekspertów, wysokiej jakości danych szkoleniowych i kompleksowych usług oceny modeli. Razem możemy zapewnić zgodność Twoich projektów Speech AI i LLM z unijną ustawą o sztucznej inteligencji, jednocześnie napędzając innowacje.
