Y Dyfodol wedi'i Gyfrifo: AI a'i Rôl mewn Cymdeithas

Cyhoeddodd Microsoft The Future Computed: Artificial Intelligence and its role in society yr wythnos hon, ac rwyf wedi treulio'r rhan fwyaf o heddiw a heno yn ei ddarllen. Mae'n waith meddylgar, ac weithiau'n syndod o onest, gan gwmni sydd ar yr un pryd yn adeiladu systemau AI mawr ac yn ceisio cyfrannu'n gyhoeddus at sgwrs ehangach am beth mae'r systemau hynny'n ei olygu.

Byddwn yn argymell ei ddarllen. Mae ar gael yn rhad ac am ddim ac nid yw'n hir, ond mae'n ddwys yn y ffordd orau bosibl, ac mae'n werth cymryd eich amser gydag ef yn hytrach na sgimio drwyddo.

Beth Mae'r Llyfr yn Ei Wneud yn Dda

Un o'r pethau roeddwn yn eu gweld yn fwyaf ffres yw nad yw'r llyfr yn esgus bod AI yn ddim ond offeryn niwtral a fydd yn cynhyrchu canlyniadau da'n awtomatig. Mae cydnabyddiaeth glir fod gan y technolegau sy'n cael eu datblygu botensial gwirioneddol i gael eu camddefnyddio, y gallant godio a chwyddo tuedd os na chânt eu hadeiladu'n ofalus, a bod gan y cwmnïau sy'n eu datblygu gyfrifoldeb sy'n mynd ymhell y tu hwnt i ystyriaethau masnachol.

Mae'r fframio hwnnw'n bwysig. Mae'n hawdd i gwmnïau technoleg gyhoeddi deunydd am AI sydd, yn y bôn, yn gyhoeddiad cynnyrch estynedig wedi'i wisgo i fyny yn iaith cyfrifoldeb cymdeithasol. Nid felly mae The Future Computed yn teimlo. Mae Brad Smith a Harry Shum yn gofyn cwestiynau go iawn am lywodraethu, atebolrwydd, a'r contract cymdeithasol rhwng cwmnïau technoleg a'r cymdeithasau maen nhw'n gweithredu ynddynt.

Yr Egwyddorion Sy'n Sefyll Allan

Mae'r llyfr yn amlinellu chwe egwyddor y mae Microsoft yn dweud ei fod yn eu cymhwyso i ddatblygu AI: tegwch, dibynadwyedd a diogelwch, preifatrwydd a diogelwch, cynwysoldeb, tryloywder, ac atebolrwydd. Yr hyn a oedd yn ddiddorol i mi, ac yn ddefnyddiol, oedd eu darllen nid dim ond fel dymuniadau ond fel ymrwymiadau peirianyddol a dylunio. Sut ydych chi'n adeiladu tegwch i mewn i fodel dysgu peirianyddol mewn gwirionedd? Sut ydych chi'n gwneud tryloywder yn rhywbeth sy'n ystyrlon i'r bobl y mae penderfyniad awtomataidd yn effeithio arnyn nhw?

Nid cwestiynau hawdd yw'r rhain, ac nid yw'r llyfr yn esgus eu bod wedi'u hateb yn derfynol. Ond mae'r weithred o'u henwi'n glir a'u trin fel problemau peirianyddol yn ogystal â rhai athronyddol yn teimlo fel y fframio cywir.

Beth Rwy'n Parhau i Feddwl Amdano

Y rhan o'r llyfr rwy'n dal i ddychwelyd ati yw'r drafodaeth am ddyfodol gwaith. Dyma, a bod yn onest, lle mae'r rhan fwyaf o'r pryder yn bodoli yn ymwybyddiaeth ehangach y cyhoedd o ran AI, ac mae hynny'n gwbl ddealladwy. Y gwir yw nad oes neb yn gwybod gyda sicrwydd beth yn union fydd yn digwydd i gyflogaeth wrth i awtomeiddio ddod yn fwy galluog, ond mae'r ansicrwydd cyfeiriadol yn sylweddol.

Yr hyn mae'r llyfr yn ei ddadlau, a'r hyn sy'n fy argyhoeddi i'n fras, yw nad ceisio arafu'r dechnoleg yw'r ymateb cywir, ond buddsoddi o ddifrif mewn addasrwydd dynol: mewn systemau addysg sy'n dysgu pobl sut i ddysgu'n barhaus yn hytrach na llwytho'r holl ddysgu i'r ddau ddegawd cyntaf o fywyd, mewn rhwydi diogelwch cymdeithasol sy'n gallu amsugno pontio, ac mewn helpu pobl i symud ochr yn ochr â'r dechnoleg yn hytrach na chael eu dadleoli ganddi.

Mae hynny'n hawdd ei ysgrifennu ac yn anodd ei wneud. Mae'r heriau polisi ymarferol yn aruthrol. Ond credaf fod y fframio yn gywir.

Pam Mae'r Sgwrs Hon yn Bwysig Nawr

Rwy'n credu ein bod ni ar bwynt lle bydd y penderfyniadau sy'n cael eu gwneud ynglŷn â sut mae AI yn cael ei adeiladu, ei roi ar waith a'i lywodraethu yn cael canlyniadau tymor hir a fydd yn anodd iawn eu gwrthdroi. Bydd y normau sy'n cael eu sefydlu nawr, o ran defnydd data, tryloywder, ac atebolrwydd pan fydd systemau awtomataidd yn gwneud penderfyniadau sy'n effeithio ar fywydau pobl, yn siapio'r amgylchedd technoleg am genhedlaeth.

Dyna pam rwy'n credu ei bod yn bwysig bod y cwmnïau sy'n adeiladu'r dechnoleg hon yn ymgysylltu'n gyhoeddus ac o ddifrif â'r cwestiynau hyn, yn hytrach na'u trin fel rhywbeth eilradd i'r gwaith peirianyddol. Mae The Future Computed yn rhan o'r ymgysylltiad hwnnw, ac mae'n werth eich amser.

Ewch i'w ddarllen.