Participatívny hodnotovo orientovaný model AI asistentov ako príležitosť na systematické zníženie rizík

Abstract

A Participatory Value-Sensitive Model of AI Assistant as an Opportunity for Systematic Risk Mitigation There are a number of risks associated with the use of artificial intelligence systems that act as assistants, which directly interfere with human autonomy and affect self-determination. These technologies significantly affect life experiences and, consequently, a person's ability to fulfil his or her desires and goals. Although the companies that develop these products and the legislators who regulate them take into account the social, legal and ethical risks, in setting standards that mitigate them they are less focused on the role and potential contribution of the users themselves in the process of mitigating the risks that directly affect them. This dissertation therefore advances the current state of knowledge by providing a proposal for a model of the interface between AI assistants and their technological ecosystem in the form of a participatory model that would directly invite the user to actively participate in the modification of virtual models in the form of digital twins, thereby opening up new possibilities for significantly mitigating the risks associated with their use. This approach to reconciling security measures on the part of developers, legislators and users is grounded in the...

Participatívny hodnotovo orientovaný model AI asistentov ako príležitosť na systematické zníženie rizík V používaním systémov umelej inteligencie, ktoré plnia úlohu asistentov sa viaže niekoľko rizík, ktoré priamo zasahujú do ľudskej autonómie a ovplyvňujú človeka v jeho sebaurčení. Tieto technológie významne ovplyvňujú životné skúsenosti a následne aj schopnosť človeka napĺňať svoje túžby a ciele. Hoci spoločnosti, ktoré vyvíjajú tieto produkty a zákonodarcovia, ktorí ich regulujú, zohľadňujú spoločenské, právne a etické riziká, pri stanovovaní noriem, ktoré ich zmierňujú sa už menej orientujú na rolu a možný prínos samotných používateľov v procese zmierňovania rizík, ktoré sa ich priamo týkajú. Táto dizertačná práca preto posúva súčasný stav poznania tým, že poskytuje návrh modelu rozhrania AI asistentov a ich technologického ekosystému vo forme participatívneho modelu, ktorý by priamo vyzýval používateľa k aktívnemu spolupodielaniu sa na úpravách virtuálnych modelov vo forme digitálnych dvojčiat, čím by otvoril nové možnosti významného zmiernenia rizík spojených s ich využívaním. Tento prístup k zosúladeniu bezpečnostných opatrení na strane vývojárov, zákonodárcov a používateľov je založený na literatúre o etike. Konkrétne, na základe štúdia vzťahov medzi dizajnom, ľudskou participáciou a...