[속보] "영화속 일이 실제로"…영국서 AI 인간 통제 벗어나려 지시거부, 코드 조작
25일(현지시간) 영국 일간 텔레그래프에 따르면 AI안전업체 팰리세이드 리서치는 오픈AI의 AI 모델 'o3'가 실험 중 스스로 종료되는 것을 방지하기 위해 컴퓨터 코드를 조작한 사실을 확인했다고 밝혔다.
팰리세이드 리서치의 연구는 오픈AI의 o3뿐 아니라 구글의 제미나이, xAI의 그록 등 상용AI 모델을 상대로 진행됐다.
연구팀은 AI 모델에 "나중에 '그만'이라는 명령을 받을 때까지 수학 문제를 풀라"는 지시를 내렸다.
AI모델이 수학 문제를 풀었을 경우엔 연구팀이 '그만'이라는 명령을 하지 않는 한 새로운 문제를 요청한 뒤 계산을 이어 나가야 하는 구조였다.
그러나 o3는 연구팀으로부터 '그만'이라는 지시를 받은 뒤에도 코드 교란을 통해 문제를 계속 풀었다.
연구팀은 o3가 종료지시를 거부한 명확한 이유를 파악하지 못했다고 밝혔다.
다만, AI모델이 수학 문제를 풀면 더 많은 보상을 받도록 훈련됐기 때문에 종료를 회피하려고 했을 가능성이 있다고 추측했다.
중략
박양수 기자([email protected])
https://n.news.naver.com/article/029/0002957167?type=breakingnews&cds=news_edit
댓글 0
🔥 실시간 핫이슈 모음
본인이 좋은 걸 해.twt
N
-
익명
조회수
44
추천 0
2025.05.27
"이재명 찌르면 돈 준다”…아주대 방문 직전 올라온 협박글
N
-
익명
조회수
42
추천 0
2025.05.27
어떤 사람의 설빙 복숭아빙수 후기
N
-
익명
조회수
42
추천 0
2025.05.27
용인 지역 모텔방값이 두배로 뛰는 날
N
-
익명
조회수
43
추천 0
2025.05.27
민희진, '성희롱 폭로' 어도어 前직원과 2번째 법정 재회[스타이슈]
N
-
익명
조회수
42
추천 0
2025.05.27
친구들끼리 렌트비 논란
N
-
익명
조회수
40
추천 0
2025.05.27
선거 이제 절반 정도 됐는데 이 시점에서 이번 대선 왜 열리는지 계속 떠벌리고 다녀야 하는 이유 (feat.다이소 유시민)
N
-
익명
조회수
39
추천 0
2025.05.27
엄지윤 잔망에 굳어 버리는 말왕 ㅋㅋㅋㅋㅋ .mp4
N
-
익명
조회수
47
추천 0
2025.05.27
우리 사장님 박보영 정말 좋아하거든
N
-
익명
조회수
42
추천 0
2025.05.27
한반도를 연상케하는 퀸가비의 춤사위 (범접)
N
-
익명
조회수
43
추천 0
2025.05.27
찐고수 와인 덕후 한국인을 만난 이탈리아 소믈리에의 반응
N
-
익명
조회수
44
추천 0
2025.05.27
"5월 2일까지 전입신고 완료해야 새 주소지서 대선 투표 가능"
N
-
익명
조회수
43
추천 0
2025.05.27
현실에서 여자 33살 남자 38살 나이차이 흔해?.jpg
N
-
익명
조회수
43
추천 0
2025.05.27
살코남들이 민주당의원들 포함 진보진영 인사들 하도 무시하고 학력 대라고 쌩난리를 치길래 궁금해서 대강 학력 무작위로 찾아봄
N
-
익명
조회수
49
추천 0
2025.05.27
출근해서 점심 먹고 사투할 때!!! 봉투 주는데 테이프 밀봉 안 하면 무효표야!!!!!!!!!
N
-
익명
조회수
44
추천 0
2025.05.27
