ChatGPT는 도움이 될 수 있지만, 항상 맞는 것은 아닙니다

ChatGPT는 학습한 데이터의 패턴을 바탕으로 유용한 답변을 제공하도록 설계되었습니다. 하지만 다른 언어 모델과 마찬가지로, 틀리거나 오해를 불러일으키는 결과를 만들어낼 수 있습니다. 때로는 틀렸는데도 확신에 찬 듯 들릴 수 있습니다.

이 현상은 흔히 ‘환각(hallucination)’이라고 불립니다. 모델이 사실과 맞지 않는 답변을 만들어내는 경우로, 예를 들어 다음과 같습니다:

• 잘못된 정의, 날짜 또는 사실

• 존재하지 않는 출처를 인용하거나, 꾸며낸 인용문·연구·인용/참고문헌

• 모호하거나 복잡한 질문에 대한 과도하게 확신에 찬 답변

그래서 우리는 사용자가 ChatGPT의 답변을 비판적으로 접근하고, 중요한 정보는 신뢰할 수 있는 출처로 검증할 것을 권장합니다.

새 도구는 사실 정확도를 개선할 수 있습니다

요금제에 따라, ChatGPT는 더 최신이거나 검증 가능한 정보로 답하는 데 도움이 되는 도구에 접근할 수 있습니다:

ChatGPT는 모든 것을 알지는 못합니다

최신 모델은 매우 뛰어나지만, 한계도 있습니다:

• 지식 컷오프: 모델은 특정 시점까지의 데이터로 학습되며, 도구를 사용하지 않는 한 그 이후 사건에 대한 정보는 답변에 반영되지 않습니다.

• 확신은 신뢰성과 다릅니다: 모델은 틀린 답변에도 높은 확신을 표현할 수 있습니다.

• 접근 제한: 기술적 문제, 유료 장벽, 또는 robots.txt를 통해 설정된 정책 때문에, 특정 웹사이트에서 관련 정보를 가져오지 못할 수 있습니다.

• 편향과 과도한 단순화: 경우에 따라 다음과 같은 일이 발생할 수 있습니다:

  • 하나의 관점을 절대적 진실인 것처럼 제시

  • 복잡하거나 미묘한 이슈를 지나치게 단순화

  • 과학적 합의나 사회적 논쟁의 무게를 잘못 전달

ChatGPT는 인터넷에 접속할 수 있나요?

대체로 그렇습니다. ChatGPT는 특정 도구가 활성화되어 있지 않으면 웹을 검색하지 않지만, 이러한 도구는 기본적으로 모든 모델에서 활성화되어 있습니다.

• 검색을 사용하지 않을 때: 답변은 모델이 학습 과정에서 배운 내용에 기반합니다.

• 검색 또는 심층 리서치를 사용할 때: 실시간 웹 출처에 접근하고 이를 인용해, 더 최신 정보를 바탕으로 질문에 답할 수 있습니다.

검색이 활성화되어 있는지 확인하려면, ChatGPT에 입력할 때 입력창에서 검색 또는 심층 리서치 아이콘이 켜져 있는지 확인하거나, 답변에 웹 출처가 인용되어 있는지 확인하세요.

ChatGPT를 책임감 있게 사용하는 실용적인 팁

• ChatGPT는 최종 출처가 아니라 초안 작성용으로 활용하세요. 중요한 정보는 반드시 확인해 주세요.

• 인용문, 데이터, 기술 정보, 외부 문서에 대한 참조는 항상 검증하세요.

• 정확성이 중요할 때는 검색이나 심층 리서치 같은 사용 가능한 도구를 활용하고, 링크를 직접 방문해 출처를 확인하세요.

• 특히 교육 환경에서는 비판적 사고를 장려하세요.