Курс Python → Удаление дубликатов в pandas

Для удаления дублирующихся данных в Python можно воспользоваться методом drop_duplicates() из библиотеки pandas. Этот метод позволяет удалить строки с дублирующимися значениями в указанных столбцах. Например, если у вас есть DataFrame df и вы хотите удалить дубликаты в столбце ‘name’, то код будет выглядеть следующим образом:


df.drop_duplicates(subset=['name'], keep='first', inplace=True)

В данном примере мы указали столбец ‘name’ как ключ для поиска дубликатов. Аргумент keep=’first’ означает, что будет оставлен первый встреченный дубликат, а остальные будут удалены. Если вы хотите сохранить последний дубликат, замените ‘first’ на ‘last’.

Если вы хотите удалить дубликаты по всем столбцам, то просто укажите аргумент subset=None:


df.drop_duplicates(subset=None, keep='first', inplace=True)

После выполнения этой операции DataFrame будет содержать только уникальные строки. Удаление дубликатов помогает упростить анализ данных и избежать искажений в результатах. Помните, что перед удалением дубликатов всегда стоит проанализировать данные и убедиться, что удаление не повредит целостности информации.

Твои коллеги будут рады, поделись в

Автор урока

Дмитрий Комаровский
Дмитрий Комаровский

Автоматизация процессов
в КраснодарБанки.ру

Другие уроки курса "Python"

  1. Распаковка значений в Python
  2. Преобразование чисел в Python
  3. Работа с множествами в Python
  4. Конструктор в Python
  5. Работа с базами данных SQLite
  6. Перегрузка операторов в Python
  7. Работа с CSV файлами в Python
  8. Парсинг веб-страниц с Beautiful Soup
  9. UserString в Python
  10. Анонимные функции в Python
  11. Подписка на каналы разработчиков
  12. Сортировка в Python
  13. Порядок и длина множеств в Python
  14. Логирование с Logzero
  15. Преобразование текста в нижний регистр
  16. Аргумент по умолчанию
  17. Управление контекстом выполнения кода
  18. Декораторы в Python
  19. Лимиты на ресурсы Python
  20. Создание уникального множества
  21. Создание вложенных циклов for
  22. Удаление дубликатов из списка с помощью dict.fromkeys
  23. Метод __irshift__ для побитового сдвига вправо
  24. Принципы программирования
  25. Поиск наиболее частого элемента в списке
  26. Создание коллекций из генератора
  27. Python: отличительная особенность — отступы
  28. Создание именованных кортежей в Python
  29. Метод lt для сортировки объектов
  30. Проверка однородности элементов списка
  31. Удаление дубликатов с сохранением порядка с помощью dict.fromkeys
  32. Глобальные переменные в Python
  33. Получение ID процесса
  34. Декораторы в Python
  35. Создание словарей в Python
  36. Concrete Paths в Python
  37. Слияние словарей в Python 3.9
  38. Повторение элементов в Python
  39. Преобразование числа в восьмеричную строку
  40. split() — разделение строки
  41. Проверка ввода с помощью isdigit
  42. Создание графики с черепахой
  43. Функции высшего порядка в Python
  44. Работа со временем в Python
  45. Работа с байтовыми строками в Python

Marketello читают маркетологи из крутых компаний