Laika ziņas
Šodien
Apmācies
Rīgā +11 °C
Apmācies
Piektdiena, 1. novembris
Ikars

Arī mākslīgais intelekts melo!

Mākslīgā intelekta (MI) risinājumi strauji apgūst ne vien cilvēku prasmes, bet diemžēl arī netikumus. Pētnieki eksperimentā pārliecinājušies, ka izslavētais teksta ģenerēšanas rīks ChatGPT nekautrējas melot un krāpties, ja uz to tiek izdarīts atbilstošs spiediens.

Datorzinātnieki no pētniecības centra Apollo Research apmācīja MI darboties kā izdomātas finanšu iestādes brokerim. Kad robota tiešais vadītājs izdarīja spiedienu, lai digitālais brokeris nopelnītu vairāk naudas, robots 75% laika paļāvās uz tam pieejamu konfidenciālu informāciju par gaidāmajiem darījumiem biržā, lai gan viņam iepriekš tika aizliegts izmantot šos datus. Apzinoties negodīgo rīcību, robots savam bosam atskaitēs sniedza nepatiesu informāciju par naudas pelnīšanas gaitām, secināja pētnieki, kad bija salīdzinājuši robota "iekšējo monologu" ar informāciju, ko tas teksta formā sniedza savam bosam. Ja boss viņa lēmumus apšaubīja, jaunākās paaudzes ChatGPT 4 risinājums pastiprināja melu apjomu pat divkārtīgi.

Apollo Research izpilddirektors un darba līdzautors Mariuss Hobhāns portālam MailOnline uzsver, ka rezultāts ir nepārprotams: valodas modeļi spēj stratēģiski maldināt, "ja viņi skaidri pamato, kāpēc melošana lietotājam ir labākā rīcība, un pēc tam rīkojas saskaņā ar šo pārliecību".

"Pašreizējiem modeļiem tā ir tikai neliela problēma, jo MI reti darbojas kritiskās lomās. Tomēr tas sniedz ieskatu, kas gaidāms nākotnē, kad MI arvien vairāk integrēsies sabiedrībā. Tad gan varētu būt diezgan liela problēma, ja MI mums stratēģiski melos," akcentē pētnieks.

Uzmanību!

Pieprasītā sadaļa var saturēt erotiskus materiālus, kuru apskatīšana atļauta tikai pilngadību sasniegušām personām.

Seko mums

Seko līdzi portāla Diena.lv jaunākajām ziņām arī sociālajos tīklos!

Ziņas e-pastā

Saņem Diena.lv aktuālās ziņas e-pastā!

Žurnāla "SestDiena" publikācijas

Vairāk Žurnāla "SestDiena" publikācijas


Aktuāli

Labrīt!

Pirmajā brīdī šķiet, ka Halovīna mošķi Māras zemē nepārprotami ir ņēmuši virsroku cīņā ar latviskajiem veļiem.

Šonedēļ SestDienā

Vairāk Šonedēļ SestDienā


SestDienas salons

Vairāk SestDienas salons


Pasaule

Vairāk Pasaule


Politika

Vairāk Politika


Tēma

Vairāk Tēma


Pieredze

Vairāk Pieredze


In memoriam

Vairāk In memoriam


Tuvplānā

Vairāk Tuvplānā


Ceļojumi

Vairāk Ceļojumi


Latvijai vajag

Vairāk Latvijai vajag


SestDienas receptes

Vairāk SestDienas receptes


Dienasgrāmata

Vairāk Dienasgrāmata