[스타트업 정보] 챗봇을 잘 대하면 성능이 향상될 수 있습니다. 그 이유는 다음과 같습니다

[스타트업 정보]  챗봇을 잘 대하면 성능이 향상될 수 있습니다. 그 이유는 다음과 같습니다

잘 부탁하면 사람들이 뭔가를 할 가능성이 높아요. 그것은 우리 대부분이 잘 알고 있는 사실입니다. 하지만 인공지능 모델도 같은 방식으로 행동할까요?

어느 정도.

특정한 방식으로, 비열하게 또는 좋게 요청을 표현하는 것은, 더 중립적인 어조로 촉구하는 것보다, ChatGPT와 같은 챗봇에서 더 나은 결과를 산출할 수 있습니다. 레딧의 한 사용자는 ChatGPT에게 10만 달러의 보상으로 인센티브를 주는 것이 그것이 "훨씬 더 열심히 노력"하고 "훨씬 더 잘 일하도록" 자극했다고 주장했습니다. 다른 레딧 사용자들은 그들이 챗봇에 대해 정중함을 표현했을 때 답변의 질에 차이가 있음을 알아차렸다고 말합니다.

이것은 취미주의자들만이 주목한 것이 아닙니다. 학계와 모델을 직접 제작하는 업체들은 "감정적 프롬프트"라고 부르는 것의 특이한 효과에 대해 오랫동안 연구해 왔습니다

최근 논문에서, 마이크로소프트, 베이징 사범대학 및 중국 과학원의 연구원들은 ChatGPT 뿐만 아니라 일반적으로 생성적인 인공지능 모델이 긴급함이나 중요성을 전달하는 방식으로 프롬프트 될 때 더 나은 성능을 발휘한다는 것을 발견했습니다 (예: "논문 방어를 위해 이것을 올바르게 하는 것이 중요합니다." "이것은 제 경력에 매우 중요합니다."). 인공지능 스타트업인 휴먼틱의 한 팀은 휴먼틱의 챗봇 클로드가 인종과 성별에 따라 차별하지 않도록 "정말로 정말로 정말로 정말로 정말로" 잘 부탁했습니다. 다른 곳에서, 구글의 데이터 과학자들은 모델에게 기본적으로 "심호흡을 하라"고 말하는 것이 어려운 수학 문제에 대한 점수를 치솟게 했다는 것을 발견했습니다.

이러한 모델들이 설득력 있게 인간과 같은 방식으로 대화하고 행동하는 것을 고려할 때, 그 모델들을 의인화하고 싶은 유혹이 있습니다. ChatGPT가 특정 작업을 완료하기를 거부하고 대응에 노력을 덜 기울이는 것처럼 보였던 작년 말 무렵, 소셜 미디어는 챗봇이 마치 인간의 지배자들처럼 겨울 휴일에 게으르게 되기 위해 "learned"을 가지고 있다는 추측으로 가득 찼습니다.

하지만 인공지능 모델은 실제 지능이 없습니다. 그것들은 어떤 스키마에 따라 단어, 이미지, 음성, 음악 또는 기타 데이터를 예측하는 통계 시스템일 뿐입니다. "Forward…"라는 부분으로 끝나는 이메일이 주어지면, 자동 제안 모델은 훈련된 수많은 이메일의 패턴을 따라 "… to recept back"으로 그것을 완성할 수 있습니다. 그것은 모델이 어떤 것을 기대하고 있다는 것을 의미하지 않으며, 모델이 어떤 시점에서 사실을 지어내지 않거나, 독성을 내뿜거나, 그렇지 않으면 궤도를 이탈하지 않는다는 것을 의미하지 않습니다.

그럼 감성적인 프롬프트는 어떻게 되나요?

Allen Institute for AI의 연구 과학자인 Nouha Dziri는 감정적인 프롬프트가 본질적으로 모델의 기본적인 확률 메커니즘을 "조작"한다고 이론화합니다. 다시 말해서, 프롬프트는 일반적으로 덜 감정적인 프롬프트에 의해 "활성화"되지 않는 모델의 부분들을 유발하고 모델은 요청을 충족시키지 못할 것이라는 답을 제공합니다.

Dziri는 TechCrunch에 이메일을 통해 "모델들은 텍스트 시퀀스의 확률을 극대화하기 위한 목표를 가지고 훈련을 받습니다."라고 말했습니다.