Mali by ste dôverovať inteligentným strojom?

Ak ste používateľom zo Spojeného kráľovstva, ktorý položil túto otázku hlasom ovládaným reproduktorom spoločnosti Amazon, odpoveď bude pravdepodobne pochádzať z NHS, a to vďaka novému partnerstvu medzi technickým gigantom a britskou národnou zdravotníckou službou.
V skutočnosti to, čo sa deje, je jednoduché webové vyhľadávanie, ktoré uprednostňuje užitočné a presné informácie.
To nemusí znieť kontroverzne, ale hneď mnoho ľudí vznieslo znepokojenie nad NHS pracujúcim s technickým gigantom, ako je Amazon.robot.png
"To, čo ma znepokojuje, je to, že NHS hľadala partnerstvo s Amazonom, čo zrejme povzbudzuje ľudí, aby poskytli súkromné ​​zdravotné údaje spoločnosti, ktorá profituje zo súkromných údajov ľudí," hovorí program Silkie Carlo zo skupiny kampaní Big Brother Watch. ,
Spoločnosť Amazon trvá na tom, že nebude zdieľať zdravotné údaje s tretími stranami alebo používať akékoľvek zdravotné otázky, ktoré sú zamerané na zacielenie reklamy na zákazníkov.
Ale Carlo nie je presvedčený.
"Ako by boli schopní rozlišovať medzi ľuďmi, ktorí hľadajú knihy a hudbu, a ľuďmi, ktorí hľadajú informácie o zdravotných problémoch?" ona sa pýta.
Ak to znamená, že Amazon má v úmysle vytvoriť samostatný súbor údajov o zdravotných problémoch ľudí, je to ešte viac znepokojujúce, hovorí.
Ale William Tunstall-Pedoe, ktorého spoločnosť vyvinula softvér, ktorý sa stal Alexa, má iný pohľad.umělá inteligence.jpg
Už nemá spojenie s Amazon, ale hovorí, že ľudia sa pýtali Alexa zdravotné otázky po celé roky a je dôležité, aby získali dobré odpovede.
„Toto partnerstvo znamená, že informácie sú vysokokvalitné, klinicky vedené informácie z NHS, kde predtým to nebolo,“ hovorí.
Hovorí, že je legitímne mať obavy o tom, ako sa budú používať zdravotné údaje, ale rovnaké obavy sa týkajú každého vyhľadávacieho nástroja, ktorý používame na kladenie podobných otázok.
Keďže umelá inteligencia a autonómne systémy dosahujú rýchly pokrok, objavujú sa ďalšie dva problémy.
Niekedy vedci za AI nie sú úplne jasné, čo sa deje v ich čiernych skrinkách. Niekedy si používatelia technológie ani neuvedomujú, že stroje robia rozhodnutia bez ľudského zásahu.