加载本地cifar10 数据集

加载本地cifar10 数据集defload_CIFAR10(ROOT):”””loadallofcifar”””xs=[]ys=[]forbinrange(1,6):f=os.path.join(ROOT,’data_batch_%d’%(b,))X,Y=load_CIFAR_batch(f)xs.append(X)y…

大家好,又见面了,我是你们的朋友全栈君。

由于我们使用官方的导入cifar10数据集方法不成功,在知道cifar10数据集的本地路径的情况下,可以通过以下方法进行导入:

import tensorflow as tf
import numpy as np
import math
from six.moves import cPickle as pickle
import os
import platform
from subprocess import check_output
classes = ('plane', 'car', 'bird', 'cat',
           'deer', 'dog', 'frog', 'horse', 'ship', 'truck')
def load_pickle(f):
    version = platform.python_version_tuple()
    if version[0] == '2':
        return  pickle.load(f)
    elif version[0] == '3':
        return  pickle.load(f, encoding='latin1')
    raise ValueError("invalid python version: {}".format(version))

def load_CIFAR_batch(filename):
    """ load single batch of cifar """
    with open(filename, 'rb') as f:
        datadict = load_pickle(f)
        X = datadict['data']
        Y = datadict['labels']
        X = X.reshape(10000,3072)
        Y = np.array(Y)
        return X, Y

def load_CIFAR10(ROOT):
    """ load all of cifar """
    xs = []
    ys = []
    for b in range(1,6):
        f = os.path.join(ROOT, 'data_batch_%d' % (b, ))
        X, Y = load_CIFAR_batch(f)
        xs.append(X)
        ys.append(Y)
    Xtr = np.concatenate(xs)
    Ytr = np.concatenate(ys)
    del X, Y
    Xte, Yte = load_CIFAR_batch(os.path.join(ROOT, 'test_batch'))
    return Xtr, Ytr, Xte, Yte
    
def get_CIFAR10_data(num_training=49000, num_validation=1000, num_test=10000):
    # Load the raw CIFAR-10 data
    cifar10_dir = '../input/cifar-10-batches-py/'
    X_train, y_train, X_test, y_test = load_CIFAR10(cifar10_dir)

    # Subsample the data
    mask = range(num_training, num_training + num_validation)
    X_val = X_train[mask]
    y_val = y_train[mask]
    mask = range(num_training)
    X_train = X_train[mask]
    y_train = y_train[mask]
    mask = range(num_test)
    X_test = X_test[mask]
    y_test = y_test[mask]

    x_train = X_train.astype('float32')
    x_test = X_test.astype('float32')

    x_train /= 255
    x_test /= 255

    return x_train, y_train, X_val, y_val, x_test, y_test


# Invoke the above function to get our data.
x_train, y_train, x_val, y_val, x_test, y_test = get_CIFAR10_data()


print('Train data shape: ', x_train.shape)
print('Train labels shape: ', y_train.shape)
print('Validation data shape: ', x_val.shape)
print('Validation labels shape: ', y_val.shape)
print('Test data shape: ', x_test.shape)
print('Test labels shape: ', y_test.shape)

参考:

  1. data_utils;
  2. stackoverflow;
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/152110.html原文链接:https://javaforall.net

(0)
上一篇 2022年6月22日 上午10:16
下一篇 2022年6月22日 上午10:16


相关推荐

  • CSS设置背景颜色透明

    CSS设置背景颜色透明CSS设置背景颜色透明将背景颜色设置为透明,两种方法:方法一:通过background-color和opacity来设置opacity属性参数的不透明度是以数字表示的,从0.0到1.0,完全透明是0.0,完全不透明是1.0,数字越大代表元素越不透明。<divclass=”box01″><p>今天星期三</p></div><divclass=”box02″><p>和上面盒子对比</p

    2022年6月20日
    64
  • loadrunner压力测试一般使用流程

    loadrunner压力测试一般使用流程博主很懒,只留下一个网址:https://www.cnblogs.com/jaazz/p/8668214.html

    2022年7月18日
    24
  • javaScript中创建数组的3种方式

    javaScript中创建数组的3种方式javaScript中创建数组的3种方式,直接上代码和截图

    2022年5月4日
    51
  • nginx根据url转发_nginx根据域名转发原理

    nginx根据url转发_nginx根据域名转发原理环境:centos:CentOSLinuxrelease7.6.1810(Core)nginx:1.15.8场景:在/home/centos/www下放有我们的项目,目前只能通过https://xxx.com/xxx访问项目,而我们想通过https://xxx.com/就能访问我们的项目。nginx配置如下:location/xxx{root/home/cen…

    2022年10月19日
    3
  • java jersey使用总结_jersey Java Jersey配置「建议收藏」

    java jersey使用总结_jersey Java Jersey配置「建议收藏」示例此示例说明了如何配置Jersey,以便您可以开始将其用作RESTfulAPI的JAX-RS实现框架。假设您已经安装了ApacheMaven,请按照以下步骤设置Jersey:创建MavenWeb项目结构,在终端(Windows)中执行以下命令mvnarchetype:generate-DgroupId=com.stackoverflow.rest-DartifactId=jerse…

    2022年7月12日
    36
  • Thumbnails的使用

    Thumbnails的使用因为项目需要做一个图片的微服务 用到了 mongoDB springboot springCloud 等 其中因为需要对图片做处理 查看资料看到 Thumbnails 于是 对 Thumbnails 的功能做了一些简单的使用 这是两张原图 及路径 publicstatic throwsIOExce Filefile newFile

    2026年3月18日
    2

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号