Prohlášení z Toronta - Toronto Declaration
Toronto Prohlášení: Ochrana práva na rovnost a nediskriminace Machine Learning Systems je prohlášení, že prosazuje odpovědné postupy pro strojové učení z praxe a řídících orgánů. Jedná se o společné prohlášení vydané skupinami včetně Amnesty International a Access Now s dalšími významnými signatáři včetně Human Rights Watch a The Wikimedia Foundation . Bylo zveřejněno na RightsCon 16. května 2018.
Deklarace se zaměřuje na obavy z algoritmické předpojatosti a potenciálu diskriminace, která vyplývá z používání strojového učení a umělé inteligence v aplikacích, které mohou ovlivnit životy lidí, „od policejní práce, přes sociální systémy, poskytování zdravotní péče až po platformy pro online diskurz. " Sekundárním problémem dokumentu je možnost narušení ochrany osobních údajů .
Cílem deklarace je nastínit „hmatatelné a použitelné standardy pro státy a soukromý sektor“. Deklarace požaduje hmatatelná řešení, jako jsou reparace pro oběti algoritmické diskriminace.
Obsah
Torontská deklarace se skládá z 59 článků rozdělených do šesti sekcí, které se týkají mezinárodního práva v oblasti lidských práv , povinností států , odpovědností aktérů ze soukromého sektoru a práva na účinný opravný prostředek.
Preambule
Dokument začíná položením otázky: „Kdo bude ve světě systémů strojového učení nést odpovědnost za poškozování lidských práv ?“ Tvrdí, že všichni praktici, ať už ve veřejném nebo soukromém sektoru, by si měli být vědomi rizik pro lidská práva a přistupovat ke své práci s ohledem na lidská práva - s vědomím stávajících mezinárodních zákonů, standardů a zásad. Dokument definuje lidská práva tak, aby zahrnovala „právo na soukromí a ochranu údajů, právo na svobodu projevu a sdružování, účast na kulturním životě, rovnost před zákonem a přístup k účinné nápravě“; uvádí však, že deklarace se nejvíce zabývá rovností a nediskriminací.
Využití rámce mezinárodního práva v oblasti lidských práv
Rámec mezinárodního práva v oblasti lidských práv vyjmenovává různá práva, poskytuje mechanismy k vyvození odpovědnosti porušovatelů a zajišťuje nápravu porušovaných. Dokument cituje definici diskriminace Výboru OSN pro lidská práva jako „jakékoli rozlišení, vyloučení, omezení nebo upřednostňování, které je založeno na jakémkoli důvodu (včetně, ale nejen) rasy, barvy pleti, pohlaví, jazyka, náboženství, politického nebo jiného názoru, národního nebo sociálního původu, majetku, narození nebo jiného postavení, jehož účelem nebo důsledkem je anulování nebo narušení uznávání, požívání nebo výkonu všech osob na rovnoprávném základě všech práv a svobod. “
Vlády by měly aktivně vytvářet závazná opatření a soukromé subjekty by měly vytvářet vnitřní politiky na ochranu před diskriminací. Opatření mohou zahrnovat ochranu citlivých údajů, zejména pro zranitelné skupiny obyvatel. Systémy by měly být navrženy ve spolupráci s různorodou komunitou, aby se zabránilo diskriminaci při navrhování.
Povinnosti států: závazky v oblasti lidských práv
Vlády dnes zavádějí systémy strojového učení, často ve spolupráci se soukromými entitami. I když je vývoj uzavřen s třetími stranami, vlády si zachovávají svou povinnost chránit lidská práva. Před implementací a průběžně po ní by měli identifikovat rizika a provádět pravidelné audity a poté přijmout veškerá nezbytná opatření ke zmírnění těchto rizik. Měli by být transparentní ohledně toho, jak je strojové učení implementováno a používáno, vyhýbat se systémům černé skříňky, jejichž logiku nelze snadno vysvětlit. Systémy by měly podléhat přísnému dohledu různých interních výborů a nezávislých soudních orgánů.
Vlády musí také chránit občany před diskriminací ze strany soukromých subjektů. Kromě dohledu by měli schválit závazné zákony proti diskriminaci, jakož i ochraně údajů a soukromí a měly by poskytnout účinné prostředky k nápravě postižených osob. Pro národní a regionální vlády je důležité rozšířit mezinárodní souvislosti a zasadit je do kontextu.
Odpovědnosti aktérů ze soukromého sektoru: náležitá péče o lidská práva
Soukromé subjekty jsou odpovědné za provádění „náležité péče o lidská práva“. Stejně jako vlády by i soukromé subjekty měly identifikovat rizika před rozvojem zvážením společných rizik a konzultací se zúčastněnými stranami, „včetně dotčených skupin, organizací, které se zabývají lidskými právy, rovností a diskriminací, a také nezávislých odborníků na lidská práva a strojové učení“. Měli by navrhnout systémy, které snižují rizika, podrobovat systémy pravidelným auditům a vzdát se projektů, které nesou příliš vysoká rizika. Měly by být transparentní, pokud jde o předpokládaná rizika, včetně podrobností o technické implementaci, pokud je to nutné, a měly by poskytnout mechanismus pro dotčené jednotlivce, aby mohli zpochybňovat všechna rozhodnutí, která se jich týkají.
Právo na účinný opravný prostředek
„Právo na spravedlnost je zásadním prvkem mezinárodního práva v oblasti lidských práv.“ Soukromé subjekty by měly vytvářet procesy pro postižené jednotlivce, aby hledali nápravu, a měly by určit role, kdo bude na tyto procesy dohlížet. Vlády musí být obzvláště opatrné při zavádění systémů strojového učení v odvětví spravedlnosti. Transparentnost, odpovědnost a náprava mohou pomoci.