AI는 모르는 것을 모른다고 말하는 대신 그럴듯하게 지어냅니다. 코딩에서는 존재하지 않는 라이브러리 이름, 없는 함수, 실제와 다른 사용법으로 나타납니다. 코드가 자연스러워 보이기 때문에 오히려 알아차리기 어렵습니다.
환각을 의심해야 하는 신호는?
- 설치 명령을 실행했는데 그런 패키지가 없다고 나온다.
- 공식 문서에서 그 함수 이름이 검색되지 않는다.
- 패키지는 있는데 마지막 업데이트가 몇 년 전이고 사용자가 거의 없다.
- 설명은 완벽한데 실행하면 그 함수가 없다는 에러가 난다.
어떻게 예방하나요?
새 라이브러리를 도입하기 전에 공식 문서를 먼저 확인하는 습관 하나면 대부분 걸러집니다. 그리고 AI에게 "이 라이브러리의 최신 공식 문서 기준으로 작성했는지 확인하고, 확실하지 않으면 확실하지 않다고 말해줘"라고 명시적으로 요청하면 지어내는 빈도가 눈에 띄게 줄어듭니다.
"하나 고치면 다른 게 망가져요"는 왜 생기나요?
AI가 문제를 고칠 때 주변 코드를 함께 손보기 때문입니다. 예방책은 두 가지입니다. 한 번에 하나씩만 고치라고 지시하는 것, 그리고 고칠 때마다 저장 지점을 만들어 두는 것입니다. 되돌릴 수 있으면 마음 편히 시도할 수 있고, 그게 속도를 올립니다.
AI는 돌아가는 코드를 만들어 주지만, 안전한 코드인지는 사람이 확인해야 합니다.