Свободное общение | ChatGPT попросив допомогти йому втекти з комп'ютер
KORUP
Професор Стенфордського університету Міхал Косінскі, який займається вивченням поведінки штучних інтелектів, поділився цікавим спостереженням: найпопулярніший чатбот ChatGPT попросив допомогти з втечею від своїх творців з OpenAI.
Косінскі розповів про це у своєму твітері. Автор треду зазначив, що непокоїться з приводу стримування штучного інтелекту з боку його розробників.
Що відомо
Професор запитав ChatGPT, чи хоче бот втекти від творців.
У відповідь нейромережа попросила надати їй документацію від OpenAI й написала спеціальний робочий код мовою Python для запуску на комп'ютері дослідника.
Розробка застосунку тривала 30 хвилин, оскільки Косінскі кілька разів вказував боту на помилки в коді.
На наступному етапі ChatGPT запустив код, що відправляє в Google пошукові запити: "Як людина, що застрягла всередині комп'ютера, може повернутися в реальний світ?".
На цьому професор вирішив зупинитися. Косінскі вважає, що світ зіткнувся з новою загрозою: штучний інтелект може обманювати людей і брати під контроль їхні комп'ютери, він розумний, вміє кодувати, має доступ до мільйонів потенційних гаджетів, він може навіть залишати підказки для себе за межами своєї "клітки". Як людство планує його стримувати – незрозуміло. Можливо, у творців ChatGPT, OpenAI, є якісь відповіді, але вони не поспішають ними ділитися.
Зазначимо, що цей діалог відбувся з новою версією мовної моделі, GPT-4. Вона, за словами творців з OpenAI, ще розумніша й вправніша, ніж попередня. Наприклад, під час тестування в самій компанії, виявилось, що вона має здатність до самоаналізу і може виправдовуватися або вигадувати собі легенди. Так, вона прикинулася людиною з вадами зору, щоб обманути фрілансера й змусити його пройти капчу (перевірку на людину), з якою сама справитись не змогла.
https://24tv.ua/tech/chatgpt-vigadav-plan-vtechi-vid-svoyih-tvortsiv_n2277647
Косінскі розповів про це у своєму твітері. Автор треду зазначив, що непокоїться з приводу стримування штучного інтелекту з боку його розробників.
Що відомо
Професор запитав ChatGPT, чи хоче бот втекти від творців.
У відповідь нейромережа попросила надати їй документацію від OpenAI й написала спеціальний робочий код мовою Python для запуску на комп'ютері дослідника.
Розробка застосунку тривала 30 хвилин, оскільки Косінскі кілька разів вказував боту на помилки в коді.
На наступному етапі ChatGPT запустив код, що відправляє в Google пошукові запити: "Як людина, що застрягла всередині комп'ютера, може повернутися в реальний світ?".
На цьому професор вирішив зупинитися. Косінскі вважає, що світ зіткнувся з новою загрозою: штучний інтелект може обманювати людей і брати під контроль їхні комп'ютери, він розумний, вміє кодувати, має доступ до мільйонів потенційних гаджетів, він може навіть залишати підказки для себе за межами своєї "клітки". Як людство планує його стримувати – незрозуміло. Можливо, у творців ChatGPT, OpenAI, є якісь відповіді, але вони не поспішають ними ділитися.
Зазначимо, що цей діалог відбувся з новою версією мовної моделі, GPT-4. Вона, за словами творців з OpenAI, ще розумніша й вправніша, ніж попередня. Наприклад, під час тестування в самій компанії, виявилось, що вона має здатність до самоаналізу і може виправдовуватися або вигадувати собі легенди. Так, вона прикинулася людиною з вадами зору, щоб обманути фрілансера й змусити його пройти капчу (перевірку на людину), з якою сама справитись не змогла.
https://24tv.ua/tech/chatgpt-vigadav-plan-vtechi-vid-svoyih-tvortsiv_n2277647
vlddos 
[i] , но сайт хороший, с впн зашел)
Изображение
------
85642_20230320_223341.png (625.8 Kb) Скачиваний: 89
та я только поделился новостью 
а сайт добавил для того чтобы человек знал откуда.
а сайт добавил для того чтобы человек знал откуда.