Výpočetní důvěra - Computational trust

V oblasti informační bezpečnosti je výpočetní důvěryhodnost generování důvěryhodných autorit nebo důvěry uživatelů prostřednictvím kryptografie . V centralizovaných systémech je zabezpečení obvykle založeno na ověřené identitě externích stran. Mechanismy tuhého ověřování, jako jsou infrastruktury veřejných klíčů (PKI) nebo Kerberos , umožnily rozšíření tohoto modelu na distribuované systémy v několika úzce spolupracujících doménách nebo v rámci jedné administrativní domény. Během posledních let se informatika přesunula z centralizovaných systémů k distribuovaným výpočtům. Tento vývoj má několik důsledků pro modely zabezpečení, zásady a mechanismy potřebné k ochraně informací a zdrojů uživatelů ve stále více propojené výpočetní infrastruktuře.

Mechanismy zabezpečení založené na identitě nemohou autorizovat operaci bez ověření entity, která si nárokuje. To znamená, že nemůže dojít k žádné interakci, pokud obě strany nejsou známy svými ověřovacími rámci. Spontánní interakce by proto vyžadovaly jednu nebo několik důvěryhodných certifikačních autorit (CA). V současné souvislosti se o PKI neuvažuje, protože mají problémy, takže je nepravděpodobné, že se v blízké budoucnosti stanou referenčním standardem. Uživatel, který si přeje spolupracovat s jinou stranou, si může vybrat mezi povolením zabezpečení a tím deaktivací spontánní spolupráce nebo deaktivací zabezpečení a aktivací spontánní spolupráce. Je zásadní, aby se mobilní uživatelé a zařízení mohli autentizovat autonomním způsobem, aniž by se museli spoléhat na společnou ověřovací infrastrukturu. Abychom mohli čelit tomuto problému, musíme prozkoumat výzvy, které přináší „globální výpočetní technika“, což je pojem, který si EU vytvořila pro budoucnost globální informační společnosti, a určit jejich dopad na bezpečnost.

Kryptoměny , jako jsou bitcoiny , používají k dosažení výpočetní důvěryhodnosti uvnitř transakční sítě metody, jako je proof of work (PoW).

Dějiny

Computational Trust aplikuje lidskou představu o důvěře na digitální svět, který je považován spíše za zlomyslný než za kooperativní. Očekávané výhody podle Marsha et al. Vedou k využití schopností ostatních prostřednictvím delegování a ke zvýšené spolupráci v otevřeném a méně chráněném prostředí. Výzkum v oblasti výpočetních mechanismů důvěry a reputace ve virtuálních společnostech je zaměřen na zvýšení spolehlivosti a výkonu digitálních komunit.

Rozhodnutí založené na důvěře v konkrétní doméně je vícestupňový proces. První krok tohoto procesu spočívá v identifikaci a výběru správných vstupních dat, tj. Důkazů důvěryhodnosti. Obecně se jedná o domény specifické a jsou odvozeny z analýzy provedené nad příslušnou aplikací . V dalším kroku se provede výpočet důvěryhodnosti na důkazu, aby se získaly hodnoty důvěryhodnosti, což znamená odhad důvěryhodnosti entit v konkrétní doméně. Výběr důkazů a následný výpočet důvěryhodnosti jsou informovány pojmem důvěryhodnosti definovaným v modelu důvěryhodnosti. Nakonec je rozhodnutí o důvěře přijato zvážením vypočítaných hodnot a exogenních faktorů, jako je dispozice nebo hodnocení rizik .

Definování důvěry

Tyto koncepty v posledním desetiletí zvýšily význam v počítačové vědě, zejména v oblasti distribuované umělé inteligence . Systém multi-agent paradigma a růst elektronického obchodování se zvýšil zájem o důvěře a pověst. Ve skutečnosti byly systémy důvěry a reputace uznány jako klíčové faktory pro elektronický obchod. Tyto systémy využívají inteligentní softwaroví agenti jako pobídku při rozhodování, při rozhodování o tom, zda budou dodržovat smlouvy, nebo jako mechanismus k hledání důvěryhodných výměnných partnerů. Reputace se na elektronických trzích používá zejména jako mechanismus prosazování důvěry nebo jako metoda, jak se vyhnout podvodníkům a podvodům.

Další oblastí použití těchto konceptů v technologii agentů je týmová práce a spolupráce. V posledních letech bylo navrženo několik definic lidského pojmu důvěra v různých oblastech od sociologie , psychologie po politické a obchodní vědy . Tyto definice se mohou dokonce měnit v souladu s doménou aplikace. Například nedávná definice Romana se pokouší obsáhnout předchozí práci ve všech těchto doménách:

Důvěra je subjektivní posouzení vlivu druhého z hlediska rozsahu jeho vnímání kvality a významu dopadu jiného na výsledky v dané situaci, takže očekávání, otevřenost a sklon k takovému vlivu poskytují pocit kontrolu nad možnými výsledky situace.

Důvěra i reputace mají společenskou hodnotu. Pokud je někdo důvěryhodný, lze od něj očekávat, že bude fungovat prospěšně nebo alespoň ne podezřele, což ostatním s vysokou pravděpodobností zajistí dobrou spolupráci. Naopak, když se zdá, že někdo není důvěryhodný, ostatní se spolupráce zdrží, protože existuje menší pravděpodobnost, že tato spolupráce bude úspěšná.

Důvěra je určitá úroveň subjektivní pravděpodobnosti, s níž agent hodnotí, že jiný agent nebo skupina agentů provede konkrétní akci, a to jak předtím, než bude moci takovou akci sledovat (nebo nezávisle nebo jeho schopnost ji vůbec sledovat), a v kontext, ve kterém ovlivňuje jeho vlastní jednání.

Důvěra je úzce spjata s důvěrou a znamená určitý stupeň nejistoty, naděje nebo optimismu. Marsh se ve své disertační práci nakonec zabýval otázkou formalizace důvěry jako výpočtového konceptu. Jeho model důvěry je založen na sociálních a psychologických faktorech.

Klasifikace modelu důvěryhodnosti

V literatuře se objevilo mnoho návrhů a zde je představen výběr výpočetních modelů důvěry a reputace, které představují dobrý vzorek současného výzkumu.

Důvěru a pověst lze analyzovat z různých úhlů pohledu a lze je použít v mnoha situacích. Další klasifikace je založena na zvážení zvláštních charakteristik těchto modelů a prostředí, ve kterém se vyvíjejí.

Konceptuální model

Model důvěry a reputace lze charakterizovat jako:

V modelech založených na kognitivním přístupu jsou důvěra a pověst tvořeny základními vírami a jsou funkcí míry těchto vír. Mentální stavy, které vedou k důvěře jiného agenta nebo k získání reputace, jsou podstatnou součástí modelu, stejně jako mentální důsledky rozhodnutí a aktu spoléhání se na jiného agenta;

V modelech neurologické důvěry jsou neurologické teorie založené na interakci mezi afektivním a kognitivním stavem modelovány také na neurologické úrovni pomocí teorií o ztělesnění emocí. V těchto modelech se dynamika důvěry vztahuje ke zkušenostem s (externími) zdroji, a to jak z kognitivního, tak afektivního hlediska. Přesněji pro pocit emocí spojených s duševním stavem jsou modelovány konvergující rekurzivní smyčky těla. Kromě toho jsou na základě hebbovského učení (kvůli síle spojení s emočními odpověďmi) zavedeny různé adaptační procesy, které jsou inspirovány hypotézou somatického markeru.

Důvěra a pověst se považují za subjektivní pravděpodobnosti, jimiž jednotlivec A očekává, že jednotlivec B provede danou akci, na níž závisí jeho blahobyt.

V tomto přístupu není důvěra a pověst výsledkem duševního stavu agenta v kognitivním smyslu, ale výsledkem pragmatičtější hry s užitečnými funkcemi a numerickou agregací minulých interakcí.

Informační zdroje

Je možné třídit modely podle zdrojů informací použitých k výpočtu hodnot důvěryhodnosti a reputace. Tradičními informačními zdroji jsou přímé zkušenosti a informace svědků, ale nejnovější modely začaly brát v úvahu souvislost mezi informacemi a sociologickým aspektem chování agenta. Pokud model obsahuje několik informačních zdrojů, může to zvýšit spolehlivost výsledků, ale naopak to může zvýšit složitost modelu.

Přímé zkušenosti

Přímá zkušenost je nejrelevantnějším a nejspolehlivějším zdrojem informací pro model důvěryhodnosti / reputace. Lze rozeznat dva typy přímých zážitků:

  • zkušenosti založené na přímé interakci s partnerem;
  • zkušenost založená na pozorované interakci ostatních členů komunity.
Svědkové informace

Svědecké informace, nazývané také nepřímé informace, pocházejí ze zkušeností ostatních členů komunity. Může to být založeno na jejich vlastních přímých zkušenostech nebo na jiných datech, které shromáždili ze zkušeností ostatních. Svědkové informace jsou obvykle nejhojnější, ale jejich použití je složité pro modelování důvěry a reputace. Ve skutečnosti to přináší nejistotu a agenti mohou manipulovat nebo skrývat části informací pro vlastní prospěch.

Sociologické informace

Lidé, kteří patří ke komunitě, navazují různé typy vztahů. Každý jedinec hraje v této společnosti jednu nebo několik rolí, které ovlivňují jeho chování a interakci s ostatními lidmi. V systému s více agenty, kde existuje spousta interakcí, jsou sociální vztahy mezi agenty zjednodušeným odrazem složitějších vztahů jejich lidských protějšků. Tyto sociologické informace přijímá pouze několik modelů důvěry a reputace pomocí technik, jako je analýza sociálních sítí . Tyto metody studují sociální vztahy mezi jednotlivci ve společnosti, které se ukázaly jako soubor metod pro analýzu sociálních struktur, metody, které konkrétně umožňují zkoumání relačních aspektů těchto struktur.

Předsudky a zaujatost

Předsudek je další, i když neobvyklý mechanismus, který ovlivňuje důvěru a pověst. Podle této metody dostává jedinec vlastnosti určité skupiny, díky nimž je rozpoznatelný jako člen. Mohou to být znaky, jako je uniforma, určité chování atd.

Jak dnes většina lidí používá, předsudky se týkají negativního nebo nepřátelského přístupu k jiné sociální skupině, často rasově definované. Tato negativní konotace však musí být revidována, když je aplikována na komunity agentů. Sada znaků používaných ve výpočetních modelech důvěry a reputace je obvykle mimo etickou diskusi, odlišně od značek používaných v lidských společnostech, jako je barva pleti nebo pohlaví.

Většina literatury v kognitivních a sociálních vědách tvrdí, že lidé projevují neracionální, předpojaté chování s ohledem na důvěru. Nedávno byly předpojaté modely lidské důvěry navrženy, analyzovány a ověřeny na základě empirických dat. Výsledky ukazují, že takové předpojaté modely důvěry jsou schopny předpovídat lidskou důvěru výrazně lépe než nezaujaté modely důvěry.

Diskuse o modelech důvěryhodnosti / reputace

Nejrelevantnějšími zdroji informací, o nichž uvažují dříve prezentované modely důvěry a reputace , jsou přímé zkušenosti a informace svědků. Na elektronických trzích sociologické informace téměř neexistují, a aby se zvýšila účinnost skutečných modelů důvěry a reputace, měly by se vzít v úvahu. Není však důvod zvyšovat složitost modelů zavádějících důkazy důvěryhodnosti, pokud budou později muset být použity v prostředí, kde není možné realizovat jejich schopnosti. Agregace více důkazů důvěry a reputace je užitečná ve výpočetním modelu, ale může zvýšit jeho složitost, což znesnadní obecné řešení. Několik modelů závisí na charakteristikách prostředí a možným řešením by mohlo být použití adaptivních mechanismů, které mohou upravit, jak kombinovat různé zdroje informací v daném prostředí. Bylo představeno mnoho definic důvěry a reputace a existuje několik prací, které dávají význam oběma konceptům.

Mezi oběma koncepty existuje vztah, který je třeba hlouběji zvážit: reputace je koncept, který pomáhá budovat důvěru v ostatní. V dnešní době je teorie her převládajícím paradigmatem, které se považuje za návrh výpočetních modelů důvěry a reputace. S největší pravděpodobností je tato teorie brána v úvahu, protože značný počet ekonomů a počítačových vědců se silným zázemím v teorii her a technik umělé inteligence pracuje v kontextech více agentů a elektronického obchodování. Herní teoretické modely přinášejí dobré výsledky, ale nemusí být vhodné, když se složitost agentů, pokud jde o sociální vztahy a interakce, zvýší příliš restriktivně. Je třeba zvážit prozkoumání nových možností a mělo by například dojít ke sloučení kognitivních přístupů s herními teoretickými. Kromě toho by mělo být zváženo více důkazů důvěryhodnosti, stejně jako časově citlivé metriky důvěryhodnosti . představují první krok k podpoře zlepšení výpočetní důvěryhodnosti.

Důležitým problémem při modelování důvěryhodnosti je přenositelnost úsudků o důvěře různými agenty. Sociální vědci souhlasí s tím, že budou považovat nekvalifikované hodnoty důvěry za nepřenosné, ale pragmatičtější přístup by dospěl k závěru, že kvalifikované úsudky o důvěře stojí za přenesení, pokud jsou rozhodnutí přijímaná s ohledem na názor ostatních lepší než ta, která jsou přijímána izolovaně. Autoři zkoumali problém přenositelnosti důvěry v otevřených distribuovaných prostředích a navrhli mechanismus překladu, který by umožnil přesnější a užitečnější výměnu informací od jednoho agenta k druhému.

Hodnocení modelů důvěryhodnosti

V současné době neexistuje žádný obecně přijímaný rámec hodnocení nebo měřítko, které by umožňovalo srovnání modelů za souboru reprezentativních a společných podmínek. Byl navržen herně teoretický přístup v tomto směru, kdy je konfigurace modelu důvěryhodnosti optimalizována za předpokladu, že útočníci budou mít optimální strategii útoku; to umožňuje v dalším kroku porovnat očekávanou užitečnost různých modelů důvěryhodnosti. Podobně byl pro systémy Peer-to-Peer navržen analytický rámec založený na modelech pro předpovídání účinnosti mechanismů reputace proti modelům libovolného útoku v modelech libovolného systému.

Viz také

Reference

externí odkazy