W kraju tak zróżnicowanym kulturowo i bogatym językowo jak Indie, budowanie inkluzywnej sztucznej inteligencji zaczyna się od gromadzenia reprezentatywnych, wysokiej jakości zbiorów danych. Taka jest wizja stojąca za projektem Vaani — szeroko zakrojoną inicjatywą open source, kierowaną przez ARTPARK , IISc Bengaluru i Google , mającą na celu umożliwienie wypowiedzi każdemu językowi i dialektowi indyjskiemu.
Ambitny cel? Zebrać ponad 150 000 godzin przemówień i ponad 15 000 godzin transkrypcji od 1 miliona osób z 773 dystryktów Indii.
Jako jeden z kluczowych dostawców tej krajowej misji, Shaip odegrał kluczową rolę w opracowaniu danych dotyczących spontanicznej mowy, transkrypcji i gromadzenia metadanych — kładąc podwaliny pod sprawiedliwe technologie głosowe, które naprawdę odzwierciedlają prawdziwe Indie.
Wizja projektu Vaani
Projekt Vaani ma na celu zniwelowanie luki w dostępie do sztucznej inteligencji (AI) poprzez stworzenie największego w Indiach multimodalnego, wielojęzycznego, otwartego zbioru danych . Dane te stanowią fundament dla rozwoju precyzyjnych systemów rozpoznawania mowy, tłumaczeń i generatywnych systemów AI w rodzimych językach indyjskich – z których wiele jest niedostatecznie reprezentowanych w globalnych ekosystemach technologicznych.
Długoterminowa wizja zakłada tworzenie aplikacji o dużym wpływie w następujących obszarach:
- Zdrowie – Telemedycyna oparta na głosie
- Wykształcenie – Platformy do nauki języka ojczystego
- Zarządzanie – Interfejsy konwersacyjne dla usług obywatelskich
- Accessibility – Narzędzia głosowe dla użytkowników niepełnosprawnych
- Odpowiedź na katastrofę – Komunikacja w czasie rzeczywistym w lokalnych dialektach
Jak Shaip pomógł zbudować największy w Indiach zbiór danych Open Source dotyczących mowy dla projektu Vaani
Shaipowi powierzono zebranie 8,000 godzin spontanicznych wypowiedzi i 800 godzin ręcznie zweryfikowanych transkrypcji . Do naszych obowiązków należało wdrożenie prelegentów, przechwytywanie dźwięku, tagowanie metadanych, koordynacja transkrypcji i kontrola jakości.
8,000 godzin spontanicznych danych audio
Nagrania ponad 400 rodzimych użytkowników języka w każdym dystrykcie, reprezentujących różne grupy wiekowe, płci i dialekty
80 dzielnic objętych
Podpowiedzi oparte na obrazach zapewniające naturalną, kontekstową mowę
Oto, co czyni nasze podejście wyjątkowym:
Różnorodność na poziomie dystryktu
Pozyskaliśmy nagrania z 80 dystryktów rozsianych po stanach takich jak Bihar, Uttar Pradesh, Karnataka, West Bengal i Maharashtra. Każdy dystrykt dostarczył 100 godzin danych audio, zapewniając równowagę regionalną. Zaangażowaliśmy rodzimych użytkowników języka, zapewniając reprezentację regionalnych akcentów i dialektów, często pomijanych w głównych zestawach danych AI.
Reprezentacja językowa i demograficzna
Pozyskaliśmy nagrania z 80 dystryktów rozsianych po stanach takich jak Bihar, Uttar Pradesh, Karnataka, West Bengal i Maharashtra. Każdy dystrykt dostarczył 100 godzin danych audio, zapewniając równowagę regionalną. Zaangażowaliśmy rodzimych użytkowników języka, zapewniając reprezentację regionalnych akcentów i dialektów, często pomijanych w głównych zestawach danych AI.
Mowa podpowiedziana obrazem
Aby stymulować spontaniczne i naturalne słownictwo, uczestnikom pokazywano 45–90 obrazów na sesję i proszono o ich opisanie. Uczestnikom polecono za pomocą różnych obrazów — od symboli kulturowych po przedmioty codziennego użytku — aby wywołać naturalne, spontaniczne reakcje w ich ojczystym języku. Dzięki temu nagrania odzwierciedlały rzeczywistą, kontekstową mowę — niezbędną do szkolenia zaawansowanych systemów NLP.
Wysokiej jakości standardy transkrypcji
Transkrypcji poddano tylko 10% danych mowy — co stanowiło 800 godzin. Transkrypcje wykonywali lokalni lingwiści w promieniu 20–50 km od mówcy, zapewniając znajomość dialektów i niuansów. Kontrola drugiej warstwy zapewniła <5% wskaźnika błędów słów (WER).
Ścisłe zapewnienie jakości
Dane audio musiały spełniać wysokie wymagania: brak szumów tła, echa, wibracji telefonu lub zniekształceń. Dźwięk został nagrany w cichym, wolnym od echa otoczeniu. Pliki przeszły rygorystyczną kontrolę, aby spełnić wytyczne dotyczące przejrzystości mowy, poziomu hałasu, dokładności metadanych i weryfikacji mówcy. Oznaczanie metadanych musiało być dokładne we wszystkich plikach, a wszystkie nagrania zostały sprawdzone pod kątem dopasowania mówcy i lokalizacji.
Wyzwania, które rozwiązaliśmy
- Zdalna logistyka – Zarządzanie zespołami w 80 dystryktach
- Różnorodność mówców – Wdrożenie ponad 32,000 XNUMX zweryfikowanych mówców w odległych lokalizacjach
- Wrażliwości kulturowej – Szanowanie lokalnych zwyczajów i dialektów
- Integralność danych – Spełnianie standardów jakości i zgodności
- Kontrola jakości – w wielu kontekstach językowych i kulturowych
Nasz sukces wynikał ze skrupulatnego planowania, weryfikacji opartej na technologii i współpracy z lokalnymi zespołami, które rozumiały niuanse kulturowe każdego regionu.
Wpływ i zastosowania
Wkład Shaipa nie tylko przyspieszył postęp projektu Vaani, ale także położył podwaliny pod inkluzywną sztuczną inteligencję w Indiach. Wyselekcjonowany zbiór danych dotyczących mowy jest już używany do budowania i dostrajania modeli sztucznej inteligencji dla:
- Asystenci głosowi w języku ojczystym
- Silniki tłumaczeń regionalnych
- Dostępne narzędzia komunikacji dla osób z dysfunkcją wzroku
- Platformy edtech oparte na sztucznej inteligencji dla uczniów ze wsi
- Telemedycyna wiejska
- Usługi obywatelskie oparte na głosie
- Tłumaczenie i transkrypcja w czasie rzeczywistym
Wniosek
Projekt Vaani to odważny krok w kierunku inkluzywnej i dostępnej sztucznej inteligencji – a Shaip jest zaszczycony, że może odegrać fundamentalną rolę. Praca Shaipa nad Projektem Vaani potwierdza nasze zaangażowanie w budowanie etycznych, inkluzywnych systemów sztucznej inteligencji, opartych na różnorodności i reprezentacji. Zebraliśmy ponad 8,000 godzin wypowiedzi i 800 godzin transkrypcji, co czyni nas dumnymi uczestnikami jednego z najbardziej wizjonerskich projektów na rzecz integracji cyfrowej w Indiach.
W miarę jak Projekt Vaani zmierza ku swemu szerszemu celowi, jakim jest zebranie ponad 150,000 XNUMX godzin danych, jesteśmy gotowi wesprzeć kolejne pionierskie działania w dziedzinie sztucznej inteligencji, które przemawiają do każdego mieszkańca Indii i są dla niego korzystne.
Chcesz nawiązać z nami współpracę i stworzyć sztuczną inteligencję, która rozumie rzeczywisty świat? www.shaip.com
