UnicodeEncodeError: 'latin-1' codec can't encode character u'\u2014'

Question

我收到此错误 UnicodeEncodeError: 'latin-1' 编解码器无法编码字符 u'\u2014'

我正在尝试将大量新闻文章加载到 MySQLdb 中。但是我在处理非标准字符时遇到了困难，对于各种字符，我遇到了数百个这样的错误。我可以使用 .replace() 单独处理它们，尽管我想要一个更完整的解决方案来正确处理它们。

ubuntu@ip-10-0-0-21:~/scripts/work$ python test_db_load_error.py
Traceback (most recent call last):
  File "test_db_load_error.py", line 27, in <module>
    cursor.execute(sql_load)
  File "/usr/lib/python2.7/dist-packages/MySQLdb/cursors.py", line 157, in execute
    query = query.encode(charset)
UnicodeEncodeError: 'latin-1' codec can't encode character u'\u2014' in position 158: ordinal not in range(256)

我的脚本；

import MySQLdb as mdb
from goose import Goose
import string
import datetime

host = 'rds.amazonaws.com'
user = 'news'
password = 'xxxxxxx'
db_name = 'news_reader'
conn = mdb.connect(host, user, password, db_name)

url = 'http://www.dailymail.co.uk/wires/ap/article-3060183/Andrew-Lesnie-Lord-Rings-cinematographer-dies.html?ITO=1490&ns_mchannel=rss&ns_campaign=1490'
g = Goose()
article = g.extract(url=url)
body = article.cleaned_text
body = body.replace("'","`")
load_date = str(datetime.datetime.now())
summary = article.meta_description
title = article.title
image = article.top_image

sql_load = "insert into articles " \
        "    (title,summary,article,,image,source,load_date) " \
        "     values ('%s','%s','%s','%s','%s','%s');" % \
        (title,summary,body,image,url,load_date)
cursor = conn.cursor()
cursor.execute(sql_load)
#conn.commit()

如有任何帮助，我们将不胜感激。

Answer 1

创建 mysqldb 连接时，将 charset='utf8' 传递给连接。

conn = mdb.connect(host, user, password, db_name, charset='utf8')

Answer 2

如果您的数据库实际上是为 Latin-1 配置的，那么您不能在其中存储非 Latin-1 字符。这包括 U+2014, EM DASH.

理想的解决方案是只切换到为 UTF-8 配置的数据库。只需在最初创建数据库时以及每次连接到它时传递 charset='utf-8'。（如果您已经有现有数据，您可能想使用 MySQL 工具将旧数据库迁移到新数据库，而不是 Python 代码，但基本思想是相同的。）

然而，有时这是不可能的。也许您有其他无法更新的软件，需要 Latin-1，并且需要共享同一个数据库。或者，您可能以无法通过编程方式取消混合的方式混合了 Latin-1 文本和二进制数据，或者您的数据库太大而无法迁移，等等。在这种情况下，您有两个选择：

在存储和搜索之前将字符串破坏性地转换为 Latin-1。例如，您可能希望将 em 破折号转换为 -，或 --，或者它可能不是那么重要，您可以将所有非 Latin-1 字符转换为 ?（更快更简单）。
提出一种编码方案，将非 Latin-1 字符偷运到数据库中。这意味着某些搜索变得更加复杂，或者无法直接在数据库中完成。

Answer 3

这可能是一个沉重的阅读，但至少让我开始了。

http://www.joelonsoftware.com/articles/Unicode.html

UnicodeEncodeError: 'latin-1' codec can't encode character u'\u2014'

UnicodeEncodeError: 'latin-1' codec can't encode character u'\u2014'

python

mysql

unicode