Skolų grąžinimo metas: esu pažadėjęs atskirais įrašais atsakyti į visą eilę klausimų, tad šiuo įrašu pabandysiu nušauti kelis zuikius. Vietoj konkrečių atsakymų, verčiau paaiškinsiu modelį, kurį naudoju panašiems klausimams nagrinėti. Tokiu būdu tikiuosi vienu įrašu atsakyti į visą klausimų ratą, kartu parodydamas jums ne vien mano išvadas, bet ir jų pasiekimo kelią.
Klausimų ratas, į kurį bandysime atsakyti, yra gana platus. Tai gali būti moralės klausimai, tokie kaip "kas yra moralu?", ir "kodėl?". Kažkas gali klausti, ar apskritai egzistuoja "moralūs" (geri) veiksmai (bei "amoralūs", arba blogi) - ar veikiau tai tik visiškai subjektyvios atskirų žmonių (ar žmonių grupių) nustatytos taisyklės?
Kalbant apie socialinį teisingumą: kas tai yra? Skirtingi žmonės turi labai skirtingas socialinio teisingumo idėjas, sunku įsivaizduoti, jog egzistuotų kažkoks objektyvus šios sąvokos apibrėžimas (jau nekalbant apie konkrečią metodologiją) jam nustatyti?
Pagaliau žmogaus teisės: kadangi žmogaus teisės, kaip tokios, neegzistuoja - o tėra žmonių konvencijų (susitarimų) rinkinys, kaip apskritai galima į tai apeliuoti (argumentuojant tą ar kitą klausimą)? Tuo pat metu, jei kažkas teigia tas ar kitas žmogaus teises esant "prigimtinėm", ar panašūs teiginiai turi rimtą pagrindą?
Pirma, visus išvardintus klausimus atsakau, žvelgdamas į juos per teisingumo (fairness) prizmę. Antra, mano [sau iškelta] užduotis yra paaiškinti, ką aš laikau tokia prizme - kiek įmanoma trumpiau ir suprantamiau. Šio įrašo rėmuose aš neįrodinėsiu savo siūlomo modelio tinkamumo šiam darbui (nei kad jis yra labiausiai tam tinkamas modelis).
Startinė pozicija
Pirminė kliūtis, su kuria susiduriame nagrinėdami mano aprašytas problemas, yra cognitive bias - mūsų mąstymui būdingi "defektai", sistemingai verčiantys mums daryti klaidingas išvadas. Vieną jų, tokių "defektų" karalių, jau esu aprašęs.
Trumpai, vertindami bet kurią situaciją, mes beveik neišvengiamai matome ją pro savo akinius (asmeninius, grupinius, nacionalinius, etc.). Įprastai siūlomos [nuo to apsisaugojimo] priemonės - loginis savo pozicijos argumentavimas, derybos, etc. - nėra pakankamai efektyvios praktikoje. Galiausiai visa tai vis tiek virsta kova - kurios laimėtojas gauna didesnį kąsnį.
Labai svarbu štai kas. Kažkada tiesa buvo laikoma tai, ką pasakydavo fiziškai stipresnis. Dideliu šių laikų pasiekimu laikome tai, jog fizinę jėgą ginče pakeitė gebėjimas argumentuoti. Tačiau konflikto baigties iš esmės tai nepakeitė - kiekvienas ir toliau kovoja už savo tiesą - o laimėtojas gauna didžiausią kąsnį. Suprantama, skirtingi kovos metodai yra labiau naudingi skirtingiems kovotojams - ir lemia skirtingus laimėtojus.
Sakykim, kažkas pasisako už absoliutų jėgos nenaudojimą (tame tarpe valstybės institucijos nebuvimą, etc.) bei visų santykių grindimą žmonių laisva valia (derybomis tarp suinteresuotų pusių). Ar tai nebūtų rojus žemėje? - Žiūrint kam! Trumpai, tai ypač palanku intelektualiems, praktiškiems žmonėms: neturėdami bijoti fizinės grėsmės, jie galėtų [aukštesnių savo intelektualių sugebėjimų dėka] nesunkiai laimėti šią šachmatų partiją. Jei jiems kada tenka argumentuoti tokią "visuomeninę santvarką" (prieš "mažiau intelektualią minią") - nesunku nuspėti, jog jų argumentai visada laimi, nes "minia" paprasčiausiai nesugeba pateikti rimtų kontroargumentų. Tačiau tokios "diskusijos" yra panašesnės į advokatų dvikovą teisme (kada kiekviena pusė stengiasi nugalėti, o tiesa nieko nedomina), nei į mokslininkų ginčą siekiant išsiaiškinti tiesą.
Tiesai nustatyti mums reikalinga metodologija, kuri nebūtų sąlygojama šališkumo.
Žaidimų teorija
Šiame įraše esu aprašęs situaciją, kai turime teisę pasirinkti žaidimo taisykles. Aiškinomės, kaip turėtume rinktis iš įvairių taisyklių rinkinių, net jei nežinome mūsų laukiančio atlygio konkrečiu atveju.
Trumpam įsivaizduokime neįmanomą: tarkime, jog netrukus kievienas mirsime - ir tada iš karto vėl atgimsime - tačiau atsitiktiniuose kūnuose. Tegul tai yra neabejotinas faktas, tačiau niekas nežino kieno kūne jie atgims. O gera žinia yra štai kokia: prieš tai įvykstant, dar turime laiko visi kartu nustatyti būsimas žaidimo (i.e. gyvenimo) taisykles - kurių vėliau kiekvienas būsime priversti laikytis. Laikykime, jog [diskusijos metu] mes išsaugome savo žinias apie žmonių, jų savybių bei polinkių įvairovę, etc.
Toks, trumpai tariant, yra mano modelio setup'as. Kadangi niekas nežino kuo jie bus atgimę, niekas negali mąstyti savanaudiškai - ignoruodami kitų reikmes. Jei norite, papildomai įsivaizduokite, jog kievienas žmogus [laikinai] įgauna super intelektą (kurį vėl praras atgimęs). Turime nutarti, kokių žaidimo taisyklių norėtume. Tokios žmonių grupės [racionaliai siekiančios maksimizuoti savo būsimą gerbūvį] argumentuojamas taisykles aš ir vadinu teisingomis (fair) visuomeninėmis taisyklėmis. [Tik] tokių taisyklių pagrindu siūlau formuluoti žmogaus teises, moralės normas, socialinio teisingumo principus, etc.
Trumpa apžvalga
Nebandysiu aprašyti visų imanomų tokio modelio implikacijų. Trumpai, tokiam modeliui gali būti užduoti visi mus kankinantys klausimai (apie visuomeninius santykius reguliuojančias normas). Tokio modelio generuojami atsakymai arba yra optimalūs, arba maksimaliai įmanomai optimalūs. Jei kažkoks principas (moralės norma, etc.) [mūsų esamoje padėtyje] atrodo absoliučiai būtinas (ar, priešingai, nepriimtinas) - tačiau mūsų modelis nedvejodamas pateikia priešingą atsakymą - nesunku parodyti, jog mūsų pozicija yra tiesiog sąlygojama mūsų kognityvinio defekto, promocijuojančio savo esamą statusą.
Dabar bloga žinia: pasvajoję turime sugrįžti atgal į savo realų gyvenimą, o konkrečių atsakymų į savo klausimus, deja, tokiu būdu gauti [kol kas] negalime... tačiau ne viskas veltui:
- viena, tokį modelį galime simuliuoti (mąstydami, lyg iš tiesų būtume atsidūrę analogiškoje situacijoje): net jei ir neturėsime aiškių atsakymų į absoliučiai visus klausimus, kai kurie iš jų nebeatrodys tokie neįkandami; kažkurie klausimai taps trivialiais; kai kurie [buvę] atsakymai pasirodys [akivaizdžiai] klaidingais;
- antra, modeliui simuliuoti gali būti panaudotas AI (dirbtinis intelektas) - jei ne dabar, tai netolimoje ateity; AI galės nepalyginamai tobuliau simuliuoti mūsų modelį - ir to pasekoje pateikti mums dar tikslesnius atsakymus. Jei tai ir neįrodo, jog mokslas [potencialiai] gali atsakyti net ir į moralės klausimus - bent jau pademonstruoja, kad toks mechanizmas iš principo įmanomas.
Tačiau svarbiausia štai kas: mes sugebėjome formalizuoti teisingumo (fairness) sąvoką. Teisingumui suteikę objektyvią reikšmę, per jį visada galime išreikšti "socialinio teisingumo", "moralaus elgesio" ir kitas panašias sąvokas. Aprašėme funkciją, kurios reikšmės maksimizavimą turėtume laikyti savo [vertybių sistemos] tikslu.
Klausimų ratas, į kurį bandysime atsakyti, yra gana platus. Tai gali būti moralės klausimai, tokie kaip "kas yra moralu?", ir "kodėl?". Kažkas gali klausti, ar apskritai egzistuoja "moralūs" (geri) veiksmai (bei "amoralūs", arba blogi) - ar veikiau tai tik visiškai subjektyvios atskirų žmonių (ar žmonių grupių) nustatytos taisyklės?
Kalbant apie socialinį teisingumą: kas tai yra? Skirtingi žmonės turi labai skirtingas socialinio teisingumo idėjas, sunku įsivaizduoti, jog egzistuotų kažkoks objektyvus šios sąvokos apibrėžimas (jau nekalbant apie konkrečią metodologiją) jam nustatyti?
Pagaliau žmogaus teisės: kadangi žmogaus teisės, kaip tokios, neegzistuoja - o tėra žmonių konvencijų (susitarimų) rinkinys, kaip apskritai galima į tai apeliuoti (argumentuojant tą ar kitą klausimą)? Tuo pat metu, jei kažkas teigia tas ar kitas žmogaus teises esant "prigimtinėm", ar panašūs teiginiai turi rimtą pagrindą?
Pirma, visus išvardintus klausimus atsakau, žvelgdamas į juos per teisingumo (fairness) prizmę. Antra, mano [sau iškelta] užduotis yra paaiškinti, ką aš laikau tokia prizme - kiek įmanoma trumpiau ir suprantamiau. Šio įrašo rėmuose aš neįrodinėsiu savo siūlomo modelio tinkamumo šiam darbui (nei kad jis yra labiausiai tam tinkamas modelis).
Startinė pozicija
Pirminė kliūtis, su kuria susiduriame nagrinėdami mano aprašytas problemas, yra cognitive bias - mūsų mąstymui būdingi "defektai", sistemingai verčiantys mums daryti klaidingas išvadas. Vieną jų, tokių "defektų" karalių, jau esu aprašęs.
Trumpai, vertindami bet kurią situaciją, mes beveik neišvengiamai matome ją pro savo akinius (asmeninius, grupinius, nacionalinius, etc.). Įprastai siūlomos [nuo to apsisaugojimo] priemonės - loginis savo pozicijos argumentavimas, derybos, etc. - nėra pakankamai efektyvios praktikoje. Galiausiai visa tai vis tiek virsta kova - kurios laimėtojas gauna didesnį kąsnį.
Labai svarbu štai kas. Kažkada tiesa buvo laikoma tai, ką pasakydavo fiziškai stipresnis. Dideliu šių laikų pasiekimu laikome tai, jog fizinę jėgą ginče pakeitė gebėjimas argumentuoti. Tačiau konflikto baigties iš esmės tai nepakeitė - kiekvienas ir toliau kovoja už savo tiesą - o laimėtojas gauna didžiausią kąsnį. Suprantama, skirtingi kovos metodai yra labiau naudingi skirtingiems kovotojams - ir lemia skirtingus laimėtojus.
Sakykim, kažkas pasisako už absoliutų jėgos nenaudojimą (tame tarpe valstybės institucijos nebuvimą, etc.) bei visų santykių grindimą žmonių laisva valia (derybomis tarp suinteresuotų pusių). Ar tai nebūtų rojus žemėje? - Žiūrint kam! Trumpai, tai ypač palanku intelektualiems, praktiškiems žmonėms: neturėdami bijoti fizinės grėsmės, jie galėtų [aukštesnių savo intelektualių sugebėjimų dėka] nesunkiai laimėti šią šachmatų partiją. Jei jiems kada tenka argumentuoti tokią "visuomeninę santvarką" (prieš "mažiau intelektualią minią") - nesunku nuspėti, jog jų argumentai visada laimi, nes "minia" paprasčiausiai nesugeba pateikti rimtų kontroargumentų. Tačiau tokios "diskusijos" yra panašesnės į advokatų dvikovą teisme (kada kiekviena pusė stengiasi nugalėti, o tiesa nieko nedomina), nei į mokslininkų ginčą siekiant išsiaiškinti tiesą.
Tiesai nustatyti mums reikalinga metodologija, kuri nebūtų sąlygojama šališkumo.
Žaidimų teorija
Šiame įraše esu aprašęs situaciją, kai turime teisę pasirinkti žaidimo taisykles. Aiškinomės, kaip turėtume rinktis iš įvairių taisyklių rinkinių, net jei nežinome mūsų laukiančio atlygio konkrečiu atveju.
Trumpam įsivaizduokime neįmanomą: tarkime, jog netrukus kievienas mirsime - ir tada iš karto vėl atgimsime - tačiau atsitiktiniuose kūnuose. Tegul tai yra neabejotinas faktas, tačiau niekas nežino kieno kūne jie atgims. O gera žinia yra štai kokia: prieš tai įvykstant, dar turime laiko visi kartu nustatyti būsimas žaidimo (i.e. gyvenimo) taisykles - kurių vėliau kiekvienas būsime priversti laikytis. Laikykime, jog [diskusijos metu] mes išsaugome savo žinias apie žmonių, jų savybių bei polinkių įvairovę, etc.
Toks, trumpai tariant, yra mano modelio setup'as. Kadangi niekas nežino kuo jie bus atgimę, niekas negali mąstyti savanaudiškai - ignoruodami kitų reikmes. Jei norite, papildomai įsivaizduokite, jog kievienas žmogus [laikinai] įgauna super intelektą (kurį vėl praras atgimęs). Turime nutarti, kokių žaidimo taisyklių norėtume. Tokios žmonių grupės [racionaliai siekiančios maksimizuoti savo būsimą gerbūvį] argumentuojamas taisykles aš ir vadinu teisingomis (fair) visuomeninėmis taisyklėmis. [Tik] tokių taisyklių pagrindu siūlau formuluoti žmogaus teises, moralės normas, socialinio teisingumo principus, etc.
Trumpa apžvalga
Nebandysiu aprašyti visų imanomų tokio modelio implikacijų. Trumpai, tokiam modeliui gali būti užduoti visi mus kankinantys klausimai (apie visuomeninius santykius reguliuojančias normas). Tokio modelio generuojami atsakymai arba yra optimalūs, arba maksimaliai įmanomai optimalūs. Jei kažkoks principas (moralės norma, etc.) [mūsų esamoje padėtyje] atrodo absoliučiai būtinas (ar, priešingai, nepriimtinas) - tačiau mūsų modelis nedvejodamas pateikia priešingą atsakymą - nesunku parodyti, jog mūsų pozicija yra tiesiog sąlygojama mūsų kognityvinio defekto, promocijuojančio savo esamą statusą.
Dabar bloga žinia: pasvajoję turime sugrįžti atgal į savo realų gyvenimą, o konkrečių atsakymų į savo klausimus, deja, tokiu būdu gauti [kol kas] negalime... tačiau ne viskas veltui:
- viena, tokį modelį galime simuliuoti (mąstydami, lyg iš tiesų būtume atsidūrę analogiškoje situacijoje): net jei ir neturėsime aiškių atsakymų į absoliučiai visus klausimus, kai kurie iš jų nebeatrodys tokie neįkandami; kažkurie klausimai taps trivialiais; kai kurie [buvę] atsakymai pasirodys [akivaizdžiai] klaidingais;
- antra, modeliui simuliuoti gali būti panaudotas AI (dirbtinis intelektas) - jei ne dabar, tai netolimoje ateity; AI galės nepalyginamai tobuliau simuliuoti mūsų modelį - ir to pasekoje pateikti mums dar tikslesnius atsakymus. Jei tai ir neįrodo, jog mokslas [potencialiai] gali atsakyti net ir į moralės klausimus - bent jau pademonstruoja, kad toks mechanizmas iš principo įmanomas.
Tačiau svarbiausia štai kas: mes sugebėjome formalizuoti teisingumo (fairness) sąvoką. Teisingumui suteikę objektyvią reikšmę, per jį visada galime išreikšti "socialinio teisingumo", "moralaus elgesio" ir kitas panašias sąvokas. Aprašėme funkciją, kurios reikšmės maksimizavimą turėtume laikyti savo [vertybių sistemos] tikslu.
12 komentarai (-ų):
Tu žinai kas yra regreso problema filosofijoje? Žinai kas yra agripos trilema? :)
Beskaitant kilo tokios mintys:
Jei visi zinotume, kad uz savaites mirsime ir po to atgimsime, susitarti del busimuju taisykliu manau pavyktu nesunkiai. Taciau po trisdesimties metu tu taisykliu jau mazai kas laikytusi, nes visi stengtusi jas pakeisti sau naudingesnemis taisyklemis. Taip yra del to, kad idealiu taisykliu negali buti, ir ju laikymasis keltu diskomforta tiek zemiausiam sluoksniui (jie manytu, kad taisykles nepakankamai gina ju teises), tiek aukstesniajam (jie manytu, kad nesilaikydami taisykliu galetu pasiekti daugiau, savo intelekto deka).
Kitas aspektas - jeigu pirmaja karta dar grauztu sazine del taisykliu lauzymo (jei jie "prisimintu", kad patys sustiko su tomis taisyklemis praeitame gyvenime), tai ju vaikai ir anukai jau galetu sakyti, kad jie uz tokias taisykles "nebalsavo".
Isvada - geros taisykles neturincios tvermes elemento yra blogiau nei truputi prastesnes, bet kuriu visi laikosi.
Ta gerai supranta geri politikai. Pavyzdziu galime rasti istorijoje - konferencijos po pasauliniu karu ir pan. Dazniausiai stengiamasi priimti ne geriausius sprendimus, o tvarius sprendimus.
Jeigu egzistuotu AI intelektas, ir jam butu duota uzduotis sukurti geresnes gyvenimo taisykles, tai pagrindine dilema butu kaip sukurti tokias taisykles, kuriu visi sutiktu laikytis.
Tamosiau, atidžiau pažvelkime į tai, ką konstatavai:
(A) "Jei visi zinotume, kad uz savaites mirsime ir po to atgimsime, susitarti del busimuju taisykliu manau pavyktu nesunkiai."
(B) "Taip yra del to, kad idealiu taisykliu negali buti, ir ju laikymasis keltu diskomforta tiek zemiausiam sluoksniui (jie manytu, kad taisykles nepakankamai gina ju teises), tiek aukstesniajam (jie manytu, kad nesilaikydami taisykliu galetu pasiekti daugiau, savo intelekto deka)."
Pirma, (A) parodo, jog sutinki, jog (a) tokias taisykles nustatyti galima; (b) tokios taisyklės aprašo teisingumą (fairness) (jei visi "nesunkiai sutariam" - nesvarbu dėl ko - tas "kažkas" yra ką mes visi laikome sąžiningu sandėriu (fair deal).
Antra, (B) formuluotėje tu įvedi naują kriterijų "taisyklių idealumo" kriterijų - neva jos turi būti "komfortabilios" kažkam. Sutinku, jei mūsų tikslas būtų įvesti KOMFORTABILIAS taisykles VISIEMS - toks tikslas nėra pasiekiamas (todėl absurdiškas per se).
Tačiau, mano pasiūlymas yra įvesti taisykles, kurios įgyvendintų aukščiausią teisingumą - aprašiau tokią teisingumo funkciją. (A) punkte pats iš esmės paaiškinai, kodėl toks teisingumas yra siektinas.
Tai, kad vėliau mūsų sandėris kažkam nebeatrodo sąžiningas, teparodo tokio žmogaus (ar žmonių) savo gerbūvio prioritizavimą virš teisingumo. Kaip paaiškinau, mano tikslas buvo pasiūlyti objektyvią teisingumo funkciją - kad žmonės linkė būti savanaudiškais, ar kad savanaudiški žmonės linkę nusispjauti į teisingumą - tai pačios teisingumo sampratos niekaip neįtakoja.
Toliau, tu tiesiog nesugebi atskirti dviejų [visiškai skirtingų] klausimų: (1) galimybės "apskaičiuoti" absoliučiai teisingas (fair) taisykles; (2) tokių taisyklių praktinio įgyvendinimo. Mano įrašas buvo skirtas išimtinai (1) punktui. Dažnai "teisingumo siekimas" atmetamas paprasčiausiai vien deklaruojant, jog neįmanoma jo apibrėžti - mano įrašas atsako į tokią poziciją.
(2) punktas yra visuomenės moralinės raidos klausimas. Kažkada panašiai galima buvo argumentuoti, jog "niekas nesutiks atsisakyti vergų" - todėl verčiau leisti laikyti po 1 vergą - ar "niekas nesutiks suteikti vienodų teisių moterims" - todėl verčiau leisti joms balsuoti, tačiau nesuteikti kitų teisių, etc.
Juo labiau visuomenė vertina "teisingumą", juo natūraliau ji sutinka su iš to sekančiomis taisyklėmis (vergovės atsisakymas, lygių teisių moterims suteikimas, etc. tik dalinės tokių "prašviesėjimų" manifestacijos). Kažkada, tikiu, bus labai natūralu ir paprasta "sutikti" su "absoliučiu teisingumu".
"Isvada - geros taisykles neturincios tvermes elemento yra blogiau nei truputi prastesnes, bet kuriu visi laikosi."
Pagal tave išeitų, jog jei vergvaldžiai vis dar nenori atsisakyti savo vergų, tai kažkaip įtakoja vergovę smerkiančia nuostatą (nes toks draudimas "nebūtų patvarus")? Sutinku, "tarpinės" taisyklės gali egzistuoti - sukuriančios vergvaldžių visuomenei savotišką pereinamąjį periodą (leisti laikyti 1 vergą, jei jie tam pasirašo, tačiau mes baiminamės jų sukilimo atėmus iš jų visus vergus iš karto, etc.)- tačiau absoliutus vergovės pasmerkimas yra nelyginant švyturys, link kurio plaukiam. Svarbiausia, NIEKADA kompromisinės taisyklių versijos nebus geresnės už ORIGINALĄ (i.e. net jei kažkada vergvaldžiam leistume laikyti po 1 vergą, tai darytume ne dėl to, jog tokia taisyklė geresnė - tiesiog visuomenė dar nesubrendus apskritai atsisakyt vergų). Neapibrėžę "tobulų taisyklių" mes nežinosime kuria kryptim norėtume judėti.
Dėl AI: jei jau šiandien egzistuotų tobulas AI, gebantis neklystamai apskaičiuoti "absoliutų teisingumą" apibrėžiančias taisykles - aš nedvejodamas pripažinčiau jas savo išpažįstamom moralės normomis - net prieš tai su jomis nesusipažinęs; ir taip, aš suprantu, jog esu absoliučioj mažumoj [kol kas]
Del "absoliutaus teisingumo" - ar imanomas toks dalykas? Mano supratimu, kaip nera absoliucios morales, nera ir absoliutaus teisingumo. Jis gali buti tik salyginis. Net ir tobulas AI turetu nusileisti iki homo sapiens issivystymo lygio.
Dar del paties pasirinkto teisingumo nustatymo modelio: ar nebutu taip, kad duotoj situacijoj daug kas pradetu "gamblint"? T.y. jei zinai, kad yra 85% sansas atgimti zemiausiame sluoksnyje, ar nekiltu pagunda balsuoti uz taisykles, palankesnes siam sluoksniui, aukstesniojo sluoksnio saskaita?
Viskas priklauso nuo apibrėžimų. Jei turime N žmonių, ir jie visi (100%) sutinka su tam tikru sprendimu (taisykle) - aš tai vadinu "absoliučiai teisingu (fair)" sprendimu. Savo modeliu parodžiau, jog toks [100%] konsensusas visada egzistuoja racionalių agentų tarpe (nepriklausomai nuo jų skaičiaus)
Kalbant apie patį modelį - ar skaitei mano žaidimų teorijos įvadinį įrašą (ir, svarbiausia, ar jį supratai)? Kalbu apie racionalaus lošėjo pasirinkimą - lošimų teorija parodo, kodėl tokia strategija optimaliausia (vertingiausia pačiam žaidėjui - įvertinant visus fiksuotus bei kintamus faktorius).
"ar nekiltu pagunda balsuoti uz taisykles, palankesnes siam sluoksniui, aukstesniojo sluoksnio saskaita?"
(1) į šį klausimą atsako žaidimų teorija (žr. aukščiau); (2) atsakymas tampa [intuityviai] akivaizdus, pabandžius [tiksliai] apibrėžti ką reiškia "palankesnės šiam sluoksniui"
Apie zaidimu teorija skaiciau, ir ten buvo pavyzdys apie 2 tardomuosius, kuriems labiausiai apsimoka tyleti, ir vienas kito neiduoti, bet isvada buvo, kad racionalus sprendimas kuri greiciausiai pasirinks zaidejas - iduoti drauga. Atsakymai buvo:
TYLĖTI: 1M, 10M
IŠDUOTI: 0M, 5M
Musu gi atveju, yra 0.85 tikimybe, kad atgimsi vargsu ir tik 0.15 tikimybe, kad aukstesnio sluoksnio atstovu.
Ka pasirinks zaidejas? Galbut tikra (ne ta kuri zinome is istorijos) komunizma?
Ir dar, tu rasei: Viskas priklauso nuo apibrėžimų. Jei turime N žmonių, ir jie visi (100%) sutinka su tam tikru sprendimu (taisykle) - aš tai vadinu "absoliučiai teisingu (fair)" sprendimu.
Sitai galioja tik tada, kai sprendimas ar taisykle liecia tik tuos zmones ir nieko daugiau. O kas jei tie N zmoniu sprendzia kaip pasielgti su ka tik atrastoje naujoje planetoje gyvenanciais vietiniais kurie pagal savo issivystyma atitinka zemeje gyvenusius neandartaliecius?
Jei jie visi 100% nuspres juos paversti vergais, tai bus fair sprendimas? O tokie sprendimai, kaip misku kirtimas, medziokle, savartynu irengimas? Kaip del sprendimu, kurie neigiamai paliecia ne zmones, bet gamta ir zemesniuosius gyvunus?
(1) dėl žaidimo teorijos: relevant part šiam modeliui yra kai renkamasi iš įvairių žaidimo taisyklių. Žaidimo teorija parodo, kokias taisykles turėtų rinktis racionalus žaidėjas (toks algoritmas egzistuoja net žaidėjui nežinant, koks skaičius iškris - i.e. kuo jis gims). Impulsyvus gambleris gali daryti visokias nesąmones, tačiau racionalus žaidėjas turi konkrečią strategiją. Pastebėkime, jog tokia strategija yra palankiausia kiekvienam dalyviui (įskaitant visus gamblerius, etc.).
(2) dėl N žmonių: tavo pastaba teisinga - modelis formuluoja apibrėžtos visuomenės, susidedančios iš šių N žmonių (gyvų būtybių) teisingumo taisykles. Maniau tai savaime suprantama? Pastebėkime, jog praktinio modelio pritaikymo tai neįtakoja.
Hadrian, paklustum AI ir gyventum dėžei- matricoi :) Tobulas AI? Kas ir kaip suprastu, kad jis tobulas? Netobulas žmogus? Pirma reikėtu tobulo AI, kad už žmogų patikrintu ar AI tobulas. Gal geriau nesišvaistyk tokiais beprasmiais žodžiais, kaip tobulybė :)
Pirma, kažką kritikuojant nekenkia to subject'o supratimas. Jei turi konkrečių insight'ų AI srityje, mielai su jais susipažinsiu.
Antra, nesuprantu, kaip paklusimas AI kalkuliuotoms moralės normoms apgyvendina mane [kažkokioj] dėžėj?
"Tobulas AI?
"Tobula programa" nereiškia "dieviškai tobulą sutvėrimą". Akivaizdu, kad nevartojau žodžio "tobulas" =Dievas prasme - konkrečiame kontekste tai reiškė "pakankamai patikimai sugebantis simuliuoti mano pasiūlytą modelį (nepalyginamai patikimiau, nei įtakojamas subjektyvių bias'ų žmogus)".
Kas ir kaip suprastu, kad jis tobulas? Netobulas žmogus? Pirma reikėtu tobulo AI, kad už žmogų patikrintu ar AI tobulas"
Ir [nesugebantis atlikti programos X atliekamos užduoties Y] žmogus pilnai pajėgus nustatyti ar programa X [korektiškai] atliks užduotį Y. Kažką praleidau?
Gal geriau nesišvaistyk tokiais beprasmiais žodžiais, kaip tobulybė
Siūlymas "nesišvastyti žodžiais" jau tampa senu: gal ir tinka demagoginiams straipsniams ar kalboms, tačiau ne konkrečiai apibrėžtiems algoritmams (granted, algoritmas gali būti klaidingas, nenašus, etc.)
Hadrian šiaip aš kritikuoju (jei kritikuoju), ne tavo "freimworką", o žodyną kuriuo jį pristatai :)
Ir [nesugebantis atlikti programos X atliekamos užduoties Y] žmogus pilnai pajėgus nustatyti ar programa X [korektiškai] atliks užduotį Y.
Čia man per daug abstarktu...
"pilnai pajėgus nustatyti" Čia pilnai yra tikrai pilnai, tarkim tikrai teisingai ar pilnai yra greičiausiai teisingai?
Korektiškai čia reiškia nepriekaištingai?
Suprantu jei kalbam apie programą kalkuliatorių mes žinom ko tikimės iš užduoties Y. Bet ko mes tikimės iš moralės kalkuliatoriaus? Sterilios saugios visuomenės kur klaidai nėra vietos? Laisvės klysti? Bandau pasakyti tai, kad mes nežinome kokio atsakymo norime, tad kaip galime pilnai nustatyti Y korektiškumą?
Hadrian šiaip aš kritikuoju (jei kritikuoju), ne tavo "freimworką", o žodyną kuriuo jį pristatai :)
Fair enough. Tačiau štai ką turėjau galvoj:
- kritiką sveikinu; "esi mano draugas, jei netingi kritikuoti mano straipsnių" :)
- "nesišvaistyti žodžiais" reiškia "nekalbėti niekų" arba "nedaryti neapgalvotų pareiškimų" - tiesiog nematau, kaip tai tiktų mano išsakytom mintim (teisingom ar klaidingom)
Čia man per daug abstarktu...
"pilnai pajėgus nustatyti" Čia pilnai yra tikrai pilnai, tarkim tikrai teisingai ar pilnai yra greičiausiai teisingai? Korektiškai čia reiškia nepriekaištingai?
Viskas priklauso nuo specifikacijos. Aš kalbu apie AI atliekamą mano aprašyto modelio simuliaciją. Įvedus paklaidos estimate, AI tobulumą vertintume priklausomai nuo paklaidos (mažesnė paklaida, tobulesnis AI).
AI neprivalo būti "dieviškai tobulas", kad būtų mums naudingas - jis teprivalo atlikti mūsų užduotį (simuliuoti TF modelį) geriau už mus pačius.
Paimkime kosminio laivo, skrendančio į Marsą [pirmą kartą] programinę įrangą: kaip žinome, jog ji "teisinga", ir kad laivas pasieks Marsą? Arba kurią iš alternatyvių programinių įrangų pasirenkame (kaip nustatome "tobuliausią"?)
Trumpai, tu užduodi legitimate klausimus - tačiau juos nagrinėja ir į juos atsako konkreti mokslinė disciplina (artificial intelligence). [Spėju] neturėdamas AI pagrindų, bandai figure it out on the fly?
Suprantu jei kalbam apie programą kalkuliatorių mes žinom ko tikimės iš užduoties Y. Bet ko mes tikimės iš moralės kalkuliatoriaus?
Pasikartosiu: iš AI tikimės mano modelio simuliacijos (paties TF modelio pagrįstumas yra atskira kalba).
Sterilios saugios visuomenės kur klaidai nėra vietos? Laisvės klysti?
Wow... are we on the same page here? Pradedu įtarti, jog nesupratai mano įrašo? Aš juk nekalbu apie AI matricą - prie kurios prisijungus, tau būtų feedinami "optimizuoti" jausmai (optimizuota realybė, etc.). Būtum teisus, wtf yra "optimizuoti" jausmai?
Kalba eina apie "visuotinį teisingumą" (kaip optimizuotos moralės taisyklių rinkinį):
(1) pasiūliau [teorinį] tokio teisingumo "apskaičiavimo" modelį;
(2) paaiškinau, jog praktiniams rezultatams gauti, būtų reikalingas AI (simuliuojantis tokį modelį).
Prisiminkime atomine bombą: (1) iš pradžių buvo sukurtas teorinis jos modelis - buvo aišku, jog tokia bomba įmanoma - tačiau neįmanoma buvo jos pagaminti (nes neįmanoma buvo atlikti visų kalkuliacijų); (2) kompiuteriui atlikus reikalingas kalkuliacijas, tapo įmanomas praktinis atominės bombos principo įgyvendinimas.
Bandau pasakyti tai, kad mes nežinome kokio atsakymo norime, tad kaip galime pilnai nustatyti Y korektiškumą?
Argumentuoji straw man, todėl ir nesusikalbame. Basically sakai: "nežinome, kokios visuomenės norime, todėl kaip galime jos "siekti" - fair enough, tačiau aš to neargumentuoju.
Aš postuluoju, jog turėtume siekti "teisingos" (fair) visuomenės. Tai neįrodoma - tačiau jei tau pakeliui, tada turime ieškoti kaip nustatyti, kas "teisinga", ir kas ne.
Pasiūliau tam TF. Intuityviai turėtų būti akivaizdu, jog TF apibrėžia tokį teisingumą. Formaliai tai argumentuosiu gal kažkada ateity (jei kažkam tai bus įdomu).
Next, kadangi TF nėra primityvi funkcija, jos reikšmės apskaičiavimui pasitelkiame AI.
Rezultate negauname matricos tipo realybės. Rezultate sužinome, kas yra fair ir kas nėra. Pvz galima būtų patikrinti, ar gėjų žudymas (persekiojimas) yra moralus. Tiesa, šiuo atveju TF atsakymą galime lengvai simuliuoti ir be AI pagalbos.
Žodžiu savo darbą atlikau :) Pastūmėjau tave teisinga linkme - kiek tai įmanoma kelių komentarų rėmuose. Jei nori sužinot daugiau - google tavo draugas :)
Rašyti komentarą