De burgemeester van Middlesbrough wordt gevraagd om een beleid voor kunstmatige intelligentie (AI) goed te keuren, dat geldig zal zijn tot 2028. Goedkeuring door Chris Cooke zal de hoofd ICT en digitaal van de raad in staat stellen om wijzigingen aan het beleid aan te brengen, na passende consultatie, om ervoor te zorgen dat het beleid in overeenstemming blijft met wetgeving, richtlijnen en opkomende AI-technologie.
Het beleid is geïntroduceerd om het “wettige, ethische en verantwoordelijke” gebruik van AI-technologieën binnen de organisatie te waarborgen. Er is erkenning voor het groeiende gebruik van AI ter ondersteuning van de levering van publieke diensten, en het beleid “schetst een duidelijk kader om het gebruik te begeleiden op een manier die de productiviteit verhoogt terwijl het gegevens waarborgt, transparantie handhaaft en menselijke verantwoordelijkheid behoudt,” volgens documenten van de raad.
Het nieuwe beleid, dat naar verwachting op donderdag 18 december door de Labour burgemeester Cooke zal worden goedgekeurd, benadrukt dat alle beslissingen de verantwoordelijkheid blijven van raadsleden of ambtenaren, waarbij AI alleen als ondersteunende rol is toegestaan en niet in de plaats van menselijke besluitvorming mag optreden.
Training zal verplicht zijn voor al het personeel dat AI-tools gebruikt, waarbij AI ter ondersteuning van de strategische prioriteiten van de raad zal worden ingezet. Belangrijke principes omvatten veilige toegang en “duidelijke grenzen” voor toepassingen die zijn toegestaan of verboden. Verdere details leggen het belang uit van het behouden van het openbare vertrouwen in hoe AI wordt gebruikt.
Naast het benadrukken van de voordelen, legt de aanbeveling uit dat zonder passend AI-beheer risico’s met betrekking tot gegevensbescherming, ethiek en verantwoordelijkheid worden geïntroduceerd. Het wordt verder verduidelijkt dat “opkomende technologieën” op een “veilige” manier zullen worden aangenomen.
Wat betreft de optie om geen AI-beleid te hebben, voegen documenten toe: “De afwezigheid van een duidelijk beleid zou aanzienlijke risico’s met zich meebrengen. Deze omvatten inconsistente toepassing van AI-tools, mogelijke niet-naleving van gegevensbeschermings- en ethische normen, en een gebrek aan transparantie of verantwoordelijkheid in de besluitvorming.”
Softwareleveranciers moeten voldoen aan het nieuwe beleid. Het beleid is niet alleen van toepassing op medewerkers en raadsleden, maar ook op personeel van bureaus en zelfs vrijwilligers. Derde partijen moeten openbaar maken hoe hun AI-systemen werken, met waarborgen tegen vooringenomenheid en grenzen aan de nauwkeurigheid, die beide worden benadrukt.
Enkele van de toegestane AI-toepassingen binnen de raad zijn: “Samenvatten van informatie, genereren van conceptverslagen of teksten, en assisteren bij communicatie”, evenals “analyseren of verwerken van datasets, documenten of openbaar beschikbare informatie om samenvattingen, inzichten of vergelijkingen te genereren”, echter dit moet in overeenstemming zijn met wetgeving en beleidsregels van de raad.
Aan de andere kant omvatten verboden toepassingen: “Het verwerken of delen van persoonlijke, vertrouwelijke of gevoelige gegevens in een openbaar of niet-goedgekeurd AI-tool”, en “het behandelen van AI-uitkomsten als autoritatief of feitelijk zonder verificatie door een opgeleid ambtenaar.”
Documenten leggen uit dat het beleid minstens jaarlijks zal worden herzien, om opkomende technologieën, risico’s en beste praktijken te weerspiegelen, waarbij grote wijzigingen worden voorgelegd aan gekozen leden ter goedkeuring.
