如何在给定的 Pandas DataFrame 中清洗字符串数据?


Pandas 是一个用于数据分析和处理的 Python 库。它提供了许多用于数据清洗和格式化的函数。

在这篇文章中,我们将学习如何在给定的 Pandas DataFrame 中清洗字符串数据。我们将涵盖以下主题:

  • 删除开头和结尾的空格

  • 替换特殊字符

  • 转换为小写

  • 删除重复值

  • 将字符串拆分为列

  • 合并列

  • 数据验证

删除开头和结尾的空格

可以使用 `strip()` 方法删除字符串开头和结尾的空格。

例如,以下代码将删除“姓名”列的开头和结尾空格:

代码

df['Name'] = df['Name'].str.strip()

替换特殊字符

可以使用 `replace()` 方法替换字符串中的特殊字符。

例如,以下代码将用空字符串替换“姓名”列中的逗号:

代码

df['Name'] = df['Name'].str.replace(',', '')

转换为小写

可以使用 `lower()` 方法将字符串转换为小写。

例如,以下代码将“姓名”列转换为小写:

代码

df['Name'] = df['Name'].str.lower()

删除重复值

可以使用 `drop_duplicates()` 方法删除 DataFrame 中的重复值。

例如,以下代码将删除“姓名”列中的重复值:

代码

df = df.drop_duplicates('Name')

将字符串拆分为列

可以使用 `split()` 方法将字符串拆分为列。

例如,以下代码将“姓名”列拆分为两列,“名”和“姓”:

代码

df[['First Name', 'Last Name']] = df['Name'].str.split(' ', expand=True)

合并列

可以使用 `merge()` 方法将两列合并为一列。

例如,以下代码将“名”和“姓”列合并为单个“姓名”列:

代码

df['Name'] = df['First Name'] + ' ' + df['Last Name']

数据验证

可以使用 `isna()` 方法检查值是否缺失。

例如,以下代码将检查“年龄”列中是否有任何缺失值:

代码

df['Age'].isna().any()

可以使用 `fillna()` 方法用默认值填充缺失值。

例如,以下代码将用值 0 填充“年龄”列中的缺失值:

代码

df['Age'].fillna(0, inplace=True)

现在让我们考虑一个代码示例,我们将使用上面提到的所有方法。

请参考以下代码。

示例

import pandas as pd

# Step 1: Import the necessary modules

# Step 2: Load the DataFrame with string data
data = {'Name': [' John Doe ', 'Jane Smith', ' Mary Johnson '],
        'Email': ['[email protected]', '[email protected]', '[email protected]'],
        'Phone': ['123-456-7890', '555-123-4567', ''],
        'Address': ['New York', 'Los Angeles', None]}

df = pd.DataFrame(data)

# Step 3: Identify and handle missing values
df['Address'] = df['Address'].fillna('Unknown')

# Step 4: Apply string cleaning operations
df['Name'] = df['Name'].str.strip()
df['Name'] = df['Name'].str.lower()
df['Phone'] = df['Phone'].str.replace('-', '')
df['Email'] = df['Email'].str.split('@').str[1]

# Step 5: Verify the cleaned data
print(df)

解释

  • 我们首先将 pandas 模块导入为 pd,它提供了强大的数据操作功能。

  • 在这个例子中,我们创建一个包含字符串数据的 DataFrame df。每一列代表不同的属性,例如姓名、电子邮件、电话和地址。

  • 我们使用 `fillna()` 方法将“地址”列中的 None 值替换为字符串“未知”,从而处理缺失值。

  • 然后使用各种字符串方法将字符串清洗操作应用于特定列。

    • `str.strip()` 删除“姓名”列的开头和结尾空格。

    • `str.lower()` 将“姓名”列的值转换为小写。

    • `str.replace('-', '')` 删除“电话”列中的连字符。

    • `str.split('@').str[1]` 在“电子邮件”列的值中以“@”符号分割,并检索第二部分(域名)。

输出

           Name        Email       Phone      Address
0      john doe  example.com  1234567890     New York
1    jane smith  example.com  5551234567  Los Angeles
2    mary johnson  example.com                  Unknown

结论

总之,清洗 Pandas DataFrame 中的字符串数据是数据预处理和分析中一个重要的步骤。本文提供了一个全面的指南,逐步讲解了字符串数据清洗过程,并附带代码示例、解释和示例输出。

我们首先了解了清洗字符串数据的重要性以及涉及的常见任务,例如删除空格、处理缺失值和转换数据格式。然后,我们演示了如何将这些清洗操作应用于 Pandas DataFrame。

更新于:2023年8月7日

1K+ 次查看

启动您的职业生涯

通过完成课程获得认证

开始
广告