Алгоритмдер басқару саласында бұрыннан қолданылады. Жұмысқа қабылдаудан бастап салықтық тексерулерге, әлеуметтік жәрдемақылардан полицияның маршруттарын белгілеуге дейін көптеген салада шешім қабылдау үдерісіне алгоритмдер ықпал етіп келеді.

Ал бұл нені білдіреді? Алгоритмдер енді жай ғана техникалық құрал емес... Олар қоғамдық реттеу мен саясаттың дәл ортасына орналасты.

Бір сәт ойлап көріңіз... Қызметке іріктеуде қолданылатын бір алгоритм үміткерлерді бағалау кезінде әділетсіздікке жол ашуы мүмкін. Немесе салықтық бақылау жүйесі белгілі бір топтарды шамадан тыс нысанаға алуы ықтимал. Сондықтан да бұл жүйелердің әділ, ашық әрі есеп беретін болуы — өмірлік маңызы бар мәселе.

Соңғы уақытта Албания мен Жапонияда болған оқиғалар бұл тақырыпты мүлде жаңа деңгейге шығарды.

Албания үкіметі «Diella» атты цифрлық көмекшіні мемлекеттік тендер үдерістерін басқаруға тағайындады. Ал Жапонияда бір саяси партия жасанды интеллектіні көшбасшы ретінде бекітетінін білдірді.

Иә, жасанды интеллект жүйелері енді тек инфрақұрылым болудан шығып, қоғамға ашық рөлдерді атқара бастады.

Алгоритмдік басқару дегеніміз не? Қарапайым тілмен айтқанда ол деректерден үйренетін, бейімделетін және ауқымды деңгейде жұмыс істейтін жасанды интеллект жүйелерін қамтиды. Бұл жүйелер қатаң, өзгермейтін ережелерді орындаумен шектелмейді. Тіпті оларды жасаушылардың өзі алдын ала болжай алмаған әрекеттерді ұсынуы мүмкін.

Осы ерекшелік олардың ықпалын күшейтіп қана қоймай, бақылауды қиындатады. Мысалы... Көлік қозғалысын реттеу үшін жасалған бір жүйе уақыт өте келе белгілі бір аудандардағы кептелісті одан әрі ушықтыратын шешімдер ұсынуы ықтимал.

Ағартушылық дәуірінің ойшылдары дауларды есептеу арқылы шешуге болатын әлемді елестеткен еді.

Қазіргі алгоритмдік басқару осы жобаны іске асырып жатқандай көрінеді: ол еркін, субъективті шешімдерден арылған басқаруды уәде етеді. Алайда Макс Вебердің әйгілі «темір тор» метафорасын еске түсірейік. Алгоритмдік жүйелер сол торды одан әрі тарылта түсуде. Олар жеке адамның еркіндігі мен дербестігін шектей алады.
Мысалы әлеуметтік көмек көрсету жүйесін алайық... Жүйе белгілі бір өлшемдерге сүйене отырып, өтініштерді автоматты түрде кері қайтарып, адамдардың негізгі қажеттіліктеріне қол жеткізуін қиындатуы мүмкін.

Қазіргі жасанды интеллект жүйелері статистикалық тұжырымға негізделеді. Нәтижелер деректердегі күрделі корреляцияларды картаға түсіру арқылы жасалады. Бұл жүйелер икемді болғанымен, белгілі бір ұсыныстың не себепті берілгенін түсіндіру лауазымды тұлғаларға да қиын болуы мүмкін.

Тағы бір мәселе — шешімдер мен деректер арасындағы уақытша кідіріс. Бұрын жүйелер белгілі бір кезеңде ғана іске қосылатын. Әр он жыл сайын халық санағы, әр қаржы жылында бюджет... Ал қазіргі жасанды интеллект жүйелері ше? Олар үздіксіз жұмыс істейді. Нақты уақыттағы деректерді қабылдап, шешімдерді сол сәтте-ақ өзгертіп отырады. Бақылауды күрделендіретін де осы үздіксіз дерек ағыны.

Ендеше, не істеуіміз керек? Албания мен Жапониядағы бұл тәжірибелер бізге шын мәнінде жаңашыл бір көзқарас ұсынып отыр. Бұл — алгоритмдік шешім қабылдау үдерістерін реттейтін нормаларды, бақылау тетіктерін және құқықтық негіздерді қалыптастыруға берілген мүмкіндік.

Ал біздің міндетіміз қандай? Бұл басқару үлгісін заңды, талқылауға ашық әрі демократиялық қағидаттармен үйлесімді етудің жолдарын айқындау. Алгоритмдік ашықтық... Есеп беретін басқару... Әділетті шешім қабылдау...

Бұл қағидаттар алгоритмдік жүйелерді жобалау мен қолдану барысында міндетті түрде ескерілуі тиіс. Ұмытпайық, бұл жүйелердің әсерін бақылап, бағалау үшін тұрақты күш-жігер қажет.

Біздің батыл жаңа әлемімізде жасанды интеллектке билік тізгінін бермес бұрын алдымен өзімізге бір сұрақ қойғанымыз жөн шығар... Біз шынымен дайынбыз ба?