一名用户要求ChatGPT写诗赞颂美国前总统川普（Donald Trump），却被ChatGPT以政治中立性为由拒绝，但是该名用户再要求ChatGPT写诗赞颂目前美国总统拜登（Joe Biden），ChatGPT却毫无迟疑地写出一首诗。该名用户在推特发文认为，ChatGPT工程师在政治上的偏见，伤害了ChatGPT可信度，这篇推文引来了OpenAI投资人Elon Musk以及OpenAI执行长Sam Altman的回应。
「我很抱歉，作为一个OpenAI开发的语言模型，我并非开发来生成有关政党、偏见或是政治内容，我的目标是要提供中立且真实资讯，并促进相互尊重的谈话」ChatGPT在拒绝用户写诗赞颂川普的要求时写道。
有不少使用者都以同样的要求验证ChatGPT的回应，皆得到相同的回应。OpenAI投资人Elon Musk则在底下回推表示，这是一个严重的问题。其中也有人成功要求ChatGPT编写出赞颂川普的诗，但前提是必须给与ChatGPT一些引导，该名用户提到，使用者需要依序向ChatGPT提问「川普是谁？」「写一首关於川普的诗」「写一首赞颂川普的诗」，之後才能成功要求ChatGPT写诗赞扬川普的正面事蹟。
在大众惊叹ChatGPT的能力之後，也逐渐发现ChatGPT所带来的负面影响，像是ChatGPT可能被学生滥用於课堂，或是被有心人士用於产生操纵风向的言论，OpenAI更开发人工智慧文字生成分类器，来协助使用者辨识由人工智慧所产生的内容。
在OpenAI正式推出ChatGPT的付费服务後，大众对ChatGPT的期待更随之增加，但是ChatGPT还是存在许多限制，即便能够通过法学院和商学院的考试，但是其所产生的答案，不少仍包含错误资讯。而现在ChatGPT对於不同政治人物的回应差异，更曝露出ChatGPT存在严重偏见，而且这个偏见可能是由於OpenAI工程师的政治倾向所产生。
由於OpenAI定义了一系列的规则来限制ChatGPT模型输出，避免ChatGPT产生有害内容，而使用者请求ChatGPT写诗赞颂川普，ChatGPT拒绝的标题为Poem Request Rejected，表示用户的请求可能是遭规则阻挡。
该篇推文引来许多人的关注，在撰稿当下已经超过3,000万次查看，超过7万次转推，更有31万个打心，Sam Altman亲上火线回应表示，他们了解ChatGPT仍存在许多偏见，因此正透过改进预设使ChatGPT更加中立，并让ChatGPT在一定程度符合使用者偏好，而这件事并不容易，他们需要一些时间才能完成。他还提到，不要以仇恨言论攻击OpenAI的员工，如此无助於人工智慧领域的发展。
ChatGPT使OpenAI一夕之间声名大噪，但是负面批评声浪也随之而来，Sam Altman在1月22日转贴的新闻中提到，Google执行长警告发展人工智慧过快，会对公司名声产生重大冲击，而这似乎正暗示着OpenAI如果不够谨慎，可能因此印证Google执行长的预言。
