首页 > Python资料 博客日记
【数据科学】Python开源库数据集大全(附代码)
2024-09-13 18:00:05Python资料围观36次
工具库介绍
为了使初学者更容易入门,许多开源库提供了丰富而标准化的示例数据集,其中包括scikit-learn、NLTK、TensorFlow Datasets、Keras Datasets、Statsmodels以及Seaborn等。
这些工具库不仅为初学者提供了方便的数据资源,还有对应的使用教程案例,基本上涵盖了所有数据类型:分类任务、预测问题、NLP自然语言处理项目以及深度学习中的图像、音频等等。
- Scikit-learn: Scikit-learn是一个用于机器学习和数据挖掘的Python开源库,提供了丰富而灵活的工具,用于数据预处理、模型选择、分类、回归等机器学习任务。
- Seaborn Datasets: Seaborn是一个用于绘制统计图形的库,同时也包含一些用于数据可视化的示例数据集,可通过
seaborn.load_dataset
加载。 - Statsmodels Datasets: Statsmodels是一个用于估计和统计模型的库,它包含一些示例数据集,用于演示其统计模型的应用。
- TensorFlow Datasets (tfds): TensorFlow Datasets是由TensorFlow提供的一个库,其中包含了各种用于机器学习的数据集。
- PyTorch Datasets: PyTorch也提供了一些内置数据集,可通过
torchvision.datasets
等模块进行访问。这些数据集通常用于计算机视觉任务。 - Keras Datasets: Keras(现在是TensorFlow的一部分)包含一些内置数据集,特别是用于深度学习的图像和文本数据集。
- NLTK (Natural Language Toolkit): NLTK是用于自然语言处理的库,提供了一些文本数据集,如语料库和语言模型。
scikit-learn
scikit-learn
(sklearn)中常用数据集以及加载和探索它们的示例代码:
-
鸢尾花数据集(Iris Dataset): 包含150朵鸢尾花的数据集,每朵花属于三个不同的物种,可以用于各种分类任务的练习。
from sklearn.datasets import load_iris iris = load_iris() X, y = iris.data, iris.target # 现在 X 包含特征,y 包含标签
-
手写数字数据集(Digits Dataset):
- 包含8x8像素的手写数字图像数据集,涵盖数字0到9。
from sklearn.datasets import load_digits digits = load_digits() X, y = digits.data, digits.target # 现在 X 包含特征,y 包含标签
-
乳腺癌数据集(Breast Cancer Dataset):
- 用于乳腺癌诊断的数据集,包含从乳腺块的数字化图像中计算的特征。
from sklearn.datasets import load_breast_cancer cancer = load_breast_cancer() X, y = cancer.data, cancer.target # 现在 X 包含特征,y 包含标签
-
葡萄酒数据集(Wine Dataset):
- 包含来自三种不同葡萄品种的葡萄酒的化学分析结果。
from sklearn.datasets import load_wine wine = load_wine() X, y = wine.data, wine.target # 现在 X 包含特征,y 包含标签
-
糖尿病数据集(Diabetes Dataset):
- 用于糖尿病患者的数据集,包含十个基线变量,如年龄、性别、体重指数、平均血压和六项血清测量。
from sklearn.datasets import load_diabetes diabetes = load_diabetes() X, y = diabetes.data, diabetes.target # 现在 X 包含特征,y 包含标签
statsmodels
statsmodels
库提供了一些用于估计和统计模型的示例数据集。以下是一些常见的statsmodels
数据集:
-
Anes96 数据集:
- 美国1996年总统选举的调查数据,包含有关选民投票的信息。
import statsmodels.api as sm anes96 = sm.datasets.anes96.load_pandas().data
-
Ccard 数据集:
- 包含有关信用卡持有者和非持有者的信息。
import statsmodels.api as sm ccard = sm.datasets.ccard.load_pandas().data
-
Copper 数据集:
- 描述了铜价格和生产量的时间序列数据。
import statsmodels.api as sm copper = sm.datasets.copper.load_pandas().data
-
Longley 数据集:
- 由经济学家 Robert Longley 创建的数据集,包含了20世纪50年代至60年代初期的美国经济数据。
import statsmodels.api as sm longley = sm.datasets.longley.load_pandas().data
-
Macrodata 数据集:
- 包含美国宏观经济数据的时间序列。
import statsmodels.api as sm macrodata = sm.datasets.macrodata.load_pandas().data
-
Nile 数据集:
- 描述了尼罗河每年的水位。
import statsmodels.api as sm nile = sm.datasets.nile.load_pandas().data
这些数据集可以通过statsmodels.api
中的相应函数进行加载,然后使用Pandas或其他数据处理工具进行进一步的分析和建模。请注意,这些数据集通常以Pandas DataFrame的形式返回,因此可以直接使用Pandas的功能进行数据处理和可视化。
Seaborn
Seaborn
是一个基于Matplotlib
的数据可视化库,它提供了一些示例数据集,用于绘制统计图形。以下是一些常见的Seaborn
数据集:
-
Tips 数据集:
- 包含餐厅顾客给出的小费、总账单、顾客性别、就餐日期和就餐时间等信息。
import seaborn as sns tips = sns.load_dataset("tips")
-
Flights 数据集:
- 包含了每个月的航班乘客数量的时间序列数据。
import seaborn as sns flights = sns.load_dataset("flights")
-
Iris 数据集:
- 鸢尾花数据集,包含了三种不同鸢尾花的花瓣和萼片的测量值。
import seaborn as sns iris = sns.load_dataset("iris")
-
Titanic 数据集:
- 包含了泰坦尼克号乘客的信息,如年龄、性别、仓位等,以及是否幸存的信息。
import seaborn as sns titanic = sns.load_dataset("titanic")
-
Planets 数据集:
- 包含有关已知系外行星的信息,如发现日期、质量、距离等。
import seaborn as sns planets = sns.load_dataset("planets")
这些数据集可以通过seaborn.load_dataset
函数加载,并且以Pandas DataFrame的形式返回。一旦加载了这些数据集,可以使用Seaborn
和Matplotlib
来创建各种统计图形。
PyTorch
PyTorch 提供了一些内置的数据集,这些数据集通常用于计算机视觉任务,可以使用 torchvision
库来访问这些数据集。以下是一些常见的 PyTorch 数据集及其加载代码:
-
MNIST 数据集:
- 包含手写数字(0到9)的灰度图像。
import torchvision.datasets as datasets mnist_train = datasets.MNIST(root="./data", train=True, download=True) mnist_test = datasets.MNIST(root="./data", train=False, download=True)
-
CIFAR-10 数据集:
- 包含 10 个不同类别的彩色图像。
import torchvision.datasets as datasets cifar10_train = datasets.CIFAR10(root="./data", train=True, download=True) cifar10_test = datasets.CIFAR10(root="./data", train=False, download=True)
-
Fashion MNIST 数据集:
- 与 MNIST 类似,但包含了 10 种不同的时尚物品的灰度图像。
import torchvision.datasets as datasets fashion_mnist_train = datasets.FashionMNIST(root="./data", train=True, download=True) fashion_mnist_test = datasets.FashionMNIST(root="./data", train=False, download=True)
-
ImageNet 数据集:
- 包含大量类别的图像,用于图像分类任务。
import torchvision.datasets as datasets # 需要指定 ImageNet 数据集的路径 imagenet_train = datasets.ImageNet(root="./imagenet", split="train", download=True) imagenet_val = datasets.ImageNet(root="./imagenet", split="val", download=True)
这里,root
参数指定数据集下载的路径,train
参数指定是否下载训练集,download
参数用于指定是否下载数据集(如果尚未下载)。
TensorFlow Datasets
需要安装 tensorflow-datasets
库,使用以下命令安装:pip install tensorflow-datasets
TensorFlow Datasets
(tfds) 是 TensorFlow 提供的一个库,用于加载和管理各种机器学习数据集。以下是一些常见的 TensorFlow Datasets 及其加载代码:
-
MNIST 数据集:
- 包含手写数字(0到9)的灰度图像。
import tensorflow_datasets as tfds mnist, info = tfds.load("mnist", with_info=True)
-
CIFAR-10 数据集:
- 包含 10 个不同类别的彩色图像。
import tensorflow_datasets as tfds cifar10, info = tfds.load("cifar10", with_info=True)
-
IMDB 电影评论数据集:
- 包含来自 Internet Movie Database (IMDB) 的电影评论,用于情感分析任务。
import tensorflow_datasets as tfds imdb, info = tfds.load("imdb_reviews", with_info=True)
-
Fashion MNIST 数据集:
- 与 MNIST 类似,但包含了 10 种不同的时尚物品的灰度图像。
import tensorflow_datasets as tfds fashion_mnist, info = tfds.load("fashion_mnist", with_info=True)
-
tf_flowers 数据集:
- 包含五个不同类别的花卉图像。
import tensorflow_datasets as tfds flowers, info = tfds.load("tf_flowers", with_info=True)
这里的 with_info=True
参数可用于获取有关数据集的额外信息,例如数据集的大小、```
Keras
在Keras中,keras.datasets
模块提供了一些内置的数据集,用于快速测试和构建深度学习模型。以下是一些常见的Keras数据集及其加载代码:
-
MNIST 数据集:
- 包含手写数字(0到9)的灰度图像。
from keras.datasets import mnist (x_train, y_train), (x_test, y_test) = mnist.load_data()
-
CIFAR-10 数据集:
- 包含 10 个不同类别的彩色图像。
from keras.datasets import cifar10 (x_train, y_train), (x_test, y_test) = cifar10.load_data()
-
Fashion MNIST 数据集:
- 与 MNIST 类似,但包含了 10 种不同的时尚物品的灰度图像。
from keras.datasets import fashion_mnist (x_train, y_train), (x_test, y_test) = fashion_mnist.load_data()
-
IMDB 电影评论数据集:
- 包含来自 Internet Movie Database (IMDB) 的电影评论,用于情感分析任务。
from keras.datasets import imdb (x_train, y_train), (x_test, y_test) = imdb.load_data()
-
Boston Housing 数据集:
- 包含波士顿地区的房价数据,用于回归任务。
from keras.datasets import boston_housing (x_train, y_train), (x_test, y_test) = boston_housing.load_data()
NLTK
NLTK(Natural Language Toolkit)是一个用于处理自然语言文本数据的Python库。NLTK包含了一些示例数据集,以及用于自然语言处理的工具和资源。
这些数据集和资源可以通过使用nltk.download
函数进行下载。
以下是一些NLTK数据集及其加载代码的示例:
-
Gutenberg 语料库:
- 包含来自Project Gutenberg的文本文学作品。
import nltk from nltk.corpus import gutenberg nltk.download('gutenberg') gutenberg.fileids()
-
Brown 语料库:
- 包含按照不同主题和文体划分的文本。
import nltk from nltk.corpus import brown nltk.download('brown') brown.categories()
-
Movie Reviews 语料库:
- 包含正面和负面电影评论的语料库。
import nltk from nltk.corpus import movie_reviews nltk.download('movie_reviews') movie_reviews.categories()
-
Stopwords 停用词:
- 包含常见的停用词,用于文本处理时过滤掉常见的无意义词语。
import nltk from nltk.corpus import stopwords nltk.download('stopwords') stop_words = set(stopwords.words('english'))
-
WordNet 语料库:
- 包含词汇和单词之间的关系。
import nltk from nltk.corpus import wordnet nltk.download('wordnet')
参考链接
- scikit-learn官网: scikit-learn: machine learning in Python
- NLTK (Natural Language Toolkit)官方网站:NLTK
- TensorFlow Datasets 文档:tfds Documentation
- Keras Datasets 文档:Keras Datasets Documentation
- Statsmodels 官方网站:Statsmodels
- Seaborn 官方网站:Seaborn
- TensorFlow 官方网站:TensorFlow
- PyTorch 官方网站:PyTorch
标签:
相关文章
最新发布
- 【Python】selenium安装+Microsoft Edge驱动器下载配置流程
- Python 中自动打开网页并点击[自动化脚本],Selenium
- Anaconda基础使用
- 【Python】成功解决 TypeError: ‘<‘ not supported between instances of ‘str’ and ‘int’
- manim边学边做--三维的点和线
- CPython是最常用的Python解释器之一,也是Python官方实现。它是用C语言编写的,旨在提供一个高效且易于使用的Python解释器。
- Anaconda安装配置Jupyter(2024最新版)
- Python中读取Excel最快的几种方法!
- Python某城市美食商家爬虫数据可视化分析和推荐查询系统毕业设计论文开题报告
- 如何使用 Python 批量检测和转换 JSONL 文件编码为 UTF-8
点击排行
- 版本匹配指南:Numpy版本和Python版本的对应关系
- 版本匹配指南:PyTorch版本、torchvision 版本和Python版本的对应关系
- Python 可视化 web 神器:streamlit、Gradio、dash、nicegui;低代码 Python Web 框架:PyWebIO
- 相关性分析——Pearson相关系数+热力图(附data和Python完整代码)
- Python与PyTorch的版本对应
- Anaconda版本和Python版本对应关系(持续更新...)
- Python pyinstaller打包exe最完整教程
- Could not build wheels for llama-cpp-python, which is required to install pyproject.toml-based proj