2024年春江苏开放大学机器学习实验及技能训练（四）：利用分类模型预测学生成绩等级
2024年春江苏开放大学机器学习实验及技能训练（四）利用分类模型预测学生成绩等级作业要求：1. 实践目标：掌握主流的分类模型的实现方法，包括逻辑回归、K近邻、决策树、朴素贝叶斯、支持向量机等。2. 实践内容：根据学习者在学习活动中的特征预测学生的成绩等级。3. 实践操作：在虚拟实验平台完成对应实验，并撰写实验报告在此处上传答案：# 载入必要库import numpy as npimport pandas as pd import matplotlib.pyplot as plt%matplotlib inlineimport seaborn as snsfrom sklearn.preprocessing import LabelEncoderfrom sklearn.model_selection import train_test_splitfrom sklearn.linear_model import LogisticRegressionfrom sklearn.neighbors import KNeighborsClassifierfrom sklearn.naive_bayes import BernoulliNBfrom sklearn.naive_bayes import GaussianNBfrom sklearn.naive_bayes import MultinomialNBfrom sklearn.svm import LinearSVCfrom sklearn.svm import SVCfrom sklearn.tree import DecisionTreeClassifierfrom sklearn.metrics import confusion_matrix, classification_report, accuracy_score# 忽略警告import warningswarnings.filterwarnings("ignore")数据读取# 导入数据edm = pd._('./input/xAPI-Edu-Data.csv')edm.head()genderNationalITyPlaceofBirthStageIDGradeIDSectionIDTopicSemesterRelationraisedhandsVisITedResourcesAnnouncementsViewDiscussionParentAnsweringSurveyParentschoolSatisfactionStudentAbsenceDaysClass0MKWKuwaITlowerlevelG-04AITFFather1516220YesGoodUnder-7M1MKWKuwaITlowerlevelG-04AITFFather2020325YesGoodUnder-7M2MKWKuwaITlowerlevelG-04AITFFather107030NoBadAbove-7L3MKWKuwaITlowerlevelG-04AITFFather3025535NoBadAbove-7L4MKWKuwaITlowerlevelG-04AITFFather40501250NoBadAbove-7M探索性数据分析首先，我们来查看一下数据集的基本信息：# 数据集基本信息<class 'pandas.core.frame.DataFrame'>RangeIndex: 480 entries, 0 to 479Data columns (total 17 columns):gender 480 non-null objectNationalITy 480 non-null objectPlaceofBirth 480 non-null objectStageID 480 non-null objectGradeID 480 non-null objectSectionID 480 non-null objectTopic 480 non-null objectSemester 480 non-null objectRelation 480 non-null objectraisedhands 480 non-null int64VisITedResources 480 non-null int64AnnouncementsView 480 non-null int64Discussion 480 non-null int64ParentAnsweringSurvey 480 non-null objectParentschoolSatisfaction 480 non-null objectStudentAbsenceDays 480 non-null objectClass 480 non-null objectdtypes: int64(4), object(13)memory usage: 63.8+ KB可以看到数据中不存在缺失值，但列名中有些字母大小写不统一，为方便我们统一改为首字母大写，其余小写：# 修改列名edm.rename(index=str, columns='gender':'_', 'NationalITy':'_', 'raisedhands':'_', 'VisITedResources':'_', inplace=True)接下来我们通过可视化来进一步挖掘数据中包含的信息，首先来看3个成绩等级的数量分布情况：# 绘制条形图plt.figure(figsize=(8, 6)counts = sns.countplot(x='Class', data=_, palette='coolwarm')counts.set(xlabel='Class', ylabel='Count', title='Occurences per class')plt._可以看到虽然成绩中等的学生要比其余两个成绩等级的学生多一些，但数据集不存在类别分布极端不平衡的情况。继续查看学生的国籍分布情况：# 绘制条形图plt.figure(figsize=(8, 6)nat = sns.countplot(x='Nationality', data=_, palette='coolwarm')nat.set(xlabel='Nationality', ylabel='Count', title='Nationality Representation')plt.setp(nat.get_xticklabels(), rotation=60)plt._数据集中的学生分别来自14个国家，大多数学生来自科威特或约旦。下面再来看看两个不同学期间，学生成绩等级的数量分布差异：# 绘制条形图plt.figure(figsize=(8, 6)sem = sns.countplot(x='Class', hue='Semester', order='L', 'M', 'H', data=_, palette='coolwarm')sem.set(xlabel='Class', ylabel='Count', title='Semester parison')plt._学生在第二学期（'S'）的表现比第一学期（'F'）好一些。 在第二学期，成绩中等的学生人数保持不变，但是成绩差的学生人数较少，而成绩好的学生人数较多。接着来看看不同性别之间，学生成绩等级的数量分布差异：# 绘制条形图plt.figure(figsize=(8, 6)plot = sns.countplot(x='Class', hue='Gender', data=_, order='L', 'M', 'H', palette='coolwarm')plot.set(xlabel='Class', ylabel='Count', title='Gender parison')plt._可以看到学生中男生较多，并且较女生而言，低分成绩的人较多，高分成绩的人较少。再来看看访问在线教学资源次数的多少会不会影响学生的成绩等级：# 绘制条形图plt.figure(figsize=(8, 6)plot = sns.swarmplot(x='Class', y='VisitedResources', hue='Gender', order='L', 'M', 'H', data=_, palette='coolwarm')plot.set(xlabel='Class', ylabel='Count', title='Gender parison on visited resources')plt._上图显示获得低分（L）的学生比获得中等分数（M）或高分（H）的学生访问的资源少的多。此外，获得高分（H）的女性几乎都访问了很多在线资源。从数据集的基本信息中可以看到，有些特征的类型是字符型，需要在建模前做一些预处理。数据预处理首先对字符型特征进行数值编码：# 选出需要进行数值编码的特征str_columns = edm.dtypesedm.dtypes = 'object'.index# 数值编码for col in str_columns:edmcol = LabelEncoder().fit_transform(edmcol)为方便后续建立模型，需要对除去目标特征之外的无序分类特征进行独热编码：# 独热编码edm_new = pd.get_dummies(_, columns=str_columns.drop('Class', 'StageID')# 查看独热编码后的维度edm_new._(480, 71)最后，将目标与数据分离，准备建立模型：# 分离目标X_new = edm_new.drop(
