Топ тема во светот е вештачката интелегенција (ВИ), нејзиниот брз развој, нејзиното влијание врз иднината на човештвото, и нејзината регулација.
Истата стана топ тема откако стигнаа сериозни предупредувања за нејзиното влијание врз иднината на човештвото од компаниите кои ја развиваат. Дека работата можеби и веќе излегла од контрола укажува и фактот дека тие самите побараа нејзина регулација и успорување на нејзиниот развој.
Истовремено последниве месеци бевме и сведоци на неколку инциденти со ВИ, кога нејзини агенти, без наредба од човек, сами донеле одлука да направат нешто, а светската јавност дозна бидејќи стануваше збор за напади на системи од една на друга компанија.
И самите компании од овој сектор периодов пријавија бројни инциденти при тестирање.
Во моментов има многу повеќе прашања отколку одговори за тоа колку навистина ВИ ја загрозува иднината на човештвото. Работите ќе бидат појасни во следните месеци, а некои од одговорите можеби и нема да ни се допаднат.
Периодов сигурно прочитавте многу работи на оваа тема, а ние го прашавме Gemini, ВИ моделот на Гугл (иста алатка како ЧетГПТ на компанијата ОпенАИ, која многумина од Вас масовно ја користите), што мисли тој на оваа тема и добивме интересен одговор.
Развојот на АИ и начинот на нејзина употреба носат сериозни ризици
Еве го одговорот на нашето прашање: “Дали ВИ е закана за човештвото?“
„Прашањето дали ВИ е закана за човештвото е предмет на голема дебата меѓу научниците, технолошките лидери и етичарите. Краткиот одговор е: ВИ сама по себе не е казна, но нејзиниот развој и начин на употреба носат сериозни ризици.
Еве ги главните аспекти низ кои се набљудува ова прашање:
Реални и непосредни ризици (сегашноста)
Дезинформации и манипулација: Генеративната ВИ овозможува лесно креирање на лажни вести, уверливи аудио/видео снимки (deepfakes) и автоматски профили за манипулација на јавното мислење и изборите.
Губење на работни места: Автоматизацијата може брзо да замени милиони работници во различни сектори (од администрација до програмирање), што претставува економски и социјален предизвик.
Автономно оружје: Вградувањето на ВИ во воени системи без човечки надзор носи ризик од ненамерни ескалации и трка во вооружување.
Приватност и надзор: Алгоритмите за препознавање лица и анализа на податоци овозможуваат масовен надзор од страна на држави или корпорации.
Хипотетички и егзистенцијални ризици (иднината)
Проблем на усогласеност (Alignment Problem): Ако создадеме вештачка општа интелигенција (AGI) која е поинтелигентна од луѓето, постои ризик нејзините цели да не бидат усогласени со човечките вредности.
Губење контрола: Некои истражувачи предупредуваат дека екстремно напредна ВИ би можела да стане премногу комплексна за да ја разбереме или контролираме.
Што се презема за превенција?
ВИ не се развива во вакум. За да се спречат негативните сценарија, се преземаат чекори како:
Регулации: Донесување закони (како Актот за заштита на ВИ во Европската унија) кои поставуваат строги правила за високоризични системи.
Безбедносни истражувања: Технолошките компании и универзитетите инвестираат во етика и тестирање на моделите пред нивно пуштање во употреба.
ВИ е моќна алатка. Дали ќе биде закана или најголем сојузник во решавање на болести и климатски промени зависи исклучиво од регулацијата, етиката и контролата што луѓето ќе ги воспостават“.
ПОВРЗАНИ ВЕСТИ
Може ли вештачката интелегенција да не остави без струја?
Фото: Унсплеш
