首页 > 编程语言 > 详细

python实现全角半角的相互转换

时间:2014-02-19 07:47:43      阅读:392      评论:0      收藏:0      [点我收藏+]

缘起

bubuko.com,布布扣

在自然语言处理过程中,全角、半角的的不一致会导致信息抽取不一致,因此需要统一。

 

转换说明

全角半角转换说明
全角字符unicode编码从65281~65374 (十六进制 0xFF01 ~ 0xFF5E)
半角字符unicode编码从33~126 (十六进制 0x21~ 0x7E)
空格比较特殊,全角为 12288(0x3000),半角为 32(0x20)

除空格外,全角/半角按unicode编码排序在顺序上是对应的(半角 + 0x7e= 全角),所以可以直接通过用+-法来处理非空格数据,对空格单独处理。

 

参考代码

bubuko.com,布布扣
# -*- coding: cp936 -*-
def strQ2B(ustring):
    """把字符串全角转半角"""
    rstring = ""
    for uchar in ustring:
        inside_code=ord(uchar)
        if inside_code >= 0x0021 and inside_code <= 0x7e:   #全角直接返回
            rstring += uchar
        else:
            if inside_code==0x3000:                         #全角角空格单独处理 
                inside_code = 0x0020
            else:                                           #其他的全角半角的公式为:半角 = 全角- 0xfee0
                inside_code -= 0xfee0
            
            rstring += chr(inside_code)          
    return rstring

def strB2Q(ustring):
    """把字符串半角转全角"""
    rstring = ""
    for uchar in ustring:
        inside_code=ord(uchar)
        if inside_code < 0x0020 or inside_code > 0x7e:   #全角直接返回
            rstring += uchar
        else:
            if inside_code==0x0020:                         #半角空格单独处理 
                inside_code = 0x3000
            else:                                           #其他的全角半角的公式为:全角 = 半角+0xfee0
                inside_code += 0xfee0
            
            rstring += unichr(inside_code)           
    return rstring


###测试
b = strB2Q("mn123abc".decode(cp936))                           
print b

c = strQ2B("mn123abc".decode(cp936))
print c
bubuko.com,布布扣

执行结果

bubuko.com,布布扣

 

库函数说明

chr()函数用一个范围在range(256)内的(就是0~255)整数作参数,返回一个对应的字符。
unichr()跟它一样,只不过返回的是Unicode字符。

ord()函数是chr()函数(对于8位的ASCII字符串)或unichr()函数(对于Unicode对象)的配对函数,它以一个字符(长度为1的字符串)作为参数,返回对应的ASCII数值,或者Unicode数值。

案例

bubuko.com,布布扣

python实现全角半角的相互转换

原文:http://www.cnblogs.com/kaituorensheng/p/3554571.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!