[解決済み] PythonでUTF8 CSVファイルを読み込む

質問

Pythonでアクセント記号付きのCSVファイルを読み込もうとしています（フランス語とスペイン語の文字のみ）。csvreaderのためのPython 2.5のドキュメントに基づいて、( http://docs.python.org/library/csv.html ) に基づいて、私はcsvreaderがASCIIのみをサポートしているので、CSVファイルを読み取るために以下のコードを思いつきました。

def unicode_csv_reader(unicode_csv_data, dialect=csv.excel, **kwargs):
    # csv.py doesn't do Unicode; encode temporarily as UTF-8:
    csv_reader = csv.reader(utf_8_encoder(unicode_csv_data),
                            dialect=dialect, **kwargs)
    for row in csv_reader:
        # decode UTF-8 back to Unicode, cell by cell:
        yield [unicode(cell, 'utf-8') for cell in row]

def utf_8_encoder(unicode_csv_data):
    for line in unicode_csv_data:
        yield line.encode('utf-8')

filename = 'output.csv'
reader = unicode_csv_reader(open(filename))
try:
    products = []
    for field1, field2, field3 in reader:
        ...

以下は、私が読み込もうとしているCSVファイルの抜粋です。

0665000FS10120684,SD1200IS,Appareil photo numérique PowerShot de 10 Mpx de Canon avec trépied (SD1200IS) - Bleu
0665000FS10120689,SD1200IS,Appareil photo numérique PowerShot de 10 Mpx de Canon avec trépied (SD1200IS) - Gris
0665000FS10120687,SD1200IS,Appareil photo numérique PowerShot de 10 Mpx de Canon avec trépied (SD1200IS) - Vert
...

UTF-8にエンコード/デコードしようとしても、以下のような例外が発生します。

Traceback (most recent call last):
  File ".\Test.py", line 53, in <module>
    for field1, field2, field3 in reader:
  File ".\Test.py", line 40, in unicode_csv_reader
    for row in csv_reader:
  File ".\Test.py", line 46, in utf_8_encoder
    yield line.encode('utf-8', 'ignore')
UnicodeDecodeError: 'ascii' codec can't decode byte 0xc3 in position 68: ordinal not in range(128)

どうすれば直るのでしょうか？

どのように解決するのですか？

この .encode メソッドはUnicode文字列に適用されてバイト文字列を作りますが、あなたは代わりにバイト文字列に対してそれを呼び出しています...間違った方法です! 間違った方法で codecs モジュールと codecs.open は、特にUTF-8でエンコードされたテキストファイルを読むためのより良い一般的なソリューションのために使用されます。しかし csv モジュールでは特に、utf-8 データを渡す必要があり、それは既に得られているものなので、あなたのコードはずっと単純なものになります。

import csv

def unicode_csv_reader(utf8_data, dialect=csv.excel, **kwargs):
    csv_reader = csv.reader(utf8_data, dialect=dialect, **kwargs)
    for row in csv_reader:
        yield [unicode(cell, 'utf-8') for cell in row]

filename = 'da.csv'
reader = unicode_csv_reader(open(filename))
for field1, field2, field3 in reader:
  print field1, field2, field3 

追記: 入力データがutf-8ではなく、例えばISO-8859-1であることが判明した場合、トランスコーディングが必要です（utf-8を使うことに熱心なら csv モジュールレベルで utf-8 を使いたい場合)、次のような形式が必要です。 line.decode('whateverweirdcodec').encode('utf-8') -- という形式を取りますが、おそらく、既存のエンコーディングの名前を yield の行で、代わりに 'utf-8' のように csv は実際にはISO-8859-*でエンコードされたバイト列でちょうど良くなりそうです。