Microsoft компаниясының жасанды интеллект бөлімін басқаратын Мұстафа Сүлейман өздігінен мақсат қойып, ақша тауып, компания басқара алатын AI-модельдердің ықтимал қауіптері туралы ескертті. Оның пікірінше, мұндай жүйелер адамзатпен ресурстар үшін бәсекелесетін жаңа «кремний тіршілік иелеріне» айналуы мүмкін, деп хабарлайды Tech-news.
Жасанды интеллекттің даму қарқыны мен оның дербес әрекет ету мүмкіндігі технология саласындағы маңызды мәселелердің біріне айналды. Microsoft-тың AI бөлімінің басшысы Мұстафа Сүлейман адам бақылауынсыз жұмыс істей алатын модельдерді дамытуға сақтықпен қарау қажет деп санайды.
Сөз болып отырған жүйелер қарапайым чат-боттардан әлдеқайда күрделі болуы мүмкін. Олар пайдаланушының нақты нұсқауын күтпей, өздігінен міндеттер қойып, шешім қабылдап, әрекет етуге қабілетті болады.
Сүлейман болашақта мұндай AI-модельдер ақша табу, мүлікке иелік ету және компанияларды басқару мүмкіндігіне ие болатын сценарийді қарастырды.
«Егер біз өздігінен әрекет етіп, мақсаттарын анықтайтын, ақша тауып, мүлікке иелік етіп, компанияларды басқара алатын AI-модельдер жасасақ, онда адамдармен ресурстар үшін бәсекелесетін жаңа кремний тіршілік иелерін дүниеге әкелуіміз мүмкін», — деді ол.
Сүлейманның пікірінше, мұндай жағдайда жасанды интеллекттің адамзатқа қаншалықты жақсы қарайтыны шешуші фактор болмауы мүмкін.
«Олардың адамзатқа қаншалықты қамқорлық танытатыны немесе бізді жақсы көретіні маңызды емес», — деп қосты Microsoft басшысы.
Оның ойынша, негізгі мәселе — жүйелердің дербес мақсаттары мен ресурстарды пайдалану мүмкіндігінің кеңеюі. Алайда бұл қазіргі AI-модельдер адамзатпен ресурстар үшін бәсекелесіп жатыр дегенді білдірмейді. Сүлейман болашақтағы ықтимал сценарий туралы айтты.
Microsoft басшысы жасанды интеллектті адамға ұқсатып көрсетуге, яғни антропоморфизациялауға да назар аударды.
Антропоморфизация — технологияға адамға тән қасиеттерді, эмоцияларды немесе ниеттерді телу. Сүлейман мұндай тәсіл AI-модельдерді қабылдауға әсер етуі мүмкін деп есептейді.
Ол Anthropic компаниясының AI әзірлеу тәсілін сынға алып, мұндай көзқарас Claude чат-ботының жеке қалауы, құндылықтары мен өзіндік санасы бар деген әсер қалыптастыруы мүмкін екенін айтты.
Бұл — Сүлейманның жасанды интеллекттің болашағына қатысты пікірі. Қазіргі AI-модельдердің өзіндік санасы бар екені немесе өздігінен мүлікке иелік ете алатыны дәлелденген жоқ.
Технология саласының өкілдері автономды жасанды интеллекттің ықтимал қауіптері туралы жиі айта бастады. Негізгі мәселе — AI мүмкіндіктерін қаншалықты кеңейтуге болады және бұл үдерісте адам бақылауын қалай сақтап қалу керек.
