<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Publishing DTD v1.3 20210610//EN" "JATS-journalpublishing1-3.dtd">
<article article-type="research-article" dtd-version="1.3" xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xml:lang="ru"><front><journal-meta><journal-id journal-id-type="publisher-id">edscience</journal-id><journal-title-group><journal-title xml:lang="ru">Образование и наука</journal-title><trans-title-group xml:lang="en"><trans-title>The Education and science journal</trans-title></trans-title-group></journal-title-group><issn pub-type="ppub">1994-5639</issn><issn pub-type="epub">2310-5828</issn><publisher><publisher-name>RSVPU</publisher-name></publisher></journal-meta><article-meta><article-id pub-id-type="doi">10.17853/1994-5639-2022-1-163-190</article-id><article-id custom-type="elpub" pub-id-type="custom">edscience-2547</article-id><article-categories><subj-group subj-group-type="heading"><subject>Research Article</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="ru"><subject>ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ В ОБРАЗОВАНИИ</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="en"><subject>INFORMATION TECHNOLOGIES IN EDUCATION</subject></subj-group></article-categories><title-group><article-title>Сопровождение индивидуальных образовательных траекторий на основе концепции объяснимого искусственного интеллекта</article-title><trans-title-group xml:lang="en"><trans-title>Support of individual educational trajectories based on the concept of explainable artificial intelligence</trans-title></trans-title-group></title-group><contrib-group><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0002-4211-7675</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Захарова</surname><given-names>И. Г.</given-names></name><name name-style="western" xml:lang="en"><surname>Zakharova</surname><given-names>I. G.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Захарова Ирина Гелиевна – доктор педагогических наук, профессор, профессор кафедры программного обеспечения</p><p>Тюмень</p></bio><bio xml:lang="en"><p>Irina G. Zakharova – Dr. Sci. (Education), Professor, Software Department</p><p>Tyumen</p></bio><email xlink:type="simple">i.g.zakharova@utmn.ru</email><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0002-1508-4089</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Воробьева</surname><given-names>М. С.</given-names></name><name name-style="western" xml:lang="en"><surname>Vorobeva</surname><given-names>M. S.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Воробьева Марина Сергеевна – кандидат технических наук, доцент, заведующая кафедрой программного обеспечения</p><p>Тюмень</p></bio><bio xml:lang="en"><p>Marina S. Vorobeva – Cand. Sci. (Engineering), Head of the Software Department</p><p>Tyumen</p></bio><email xlink:type="simple">m.s.vorobeva@utmn.ru</email><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0002-3663-0173</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Боганюк</surname><given-names>Ю. В.</given-names></name><name name-style="western" xml:lang="en"><surname>Boganyuk</surname><given-names>Yu. V.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Боганюк Юлия Викторовна – старший преподаватель кафедры программного обеспечения</p><p>Тюмень</p></bio><bio xml:lang="en"><p>Yulia V. Boganyuk – Senior Lecturer, Software Department</p><p>Tyumen</p></bio><email xlink:type="simple">y.v.boganyuk@utmn.ru</email><xref ref-type="aff" rid="aff-1"/></contrib></contrib-group><aff-alternatives id="aff-1"><aff xml:lang="ru">Тюменский государственный университет<country>Россия</country></aff><aff xml:lang="en">University of Tyumen<country>Russian Federation</country></aff></aff-alternatives><pub-date pub-type="collection"><year>2022</year></pub-date><pub-date pub-type="epub"><day>18</day><month>01</month><year>2022</year></pub-date><volume>24</volume><issue>1</issue><fpage>163</fpage><lpage>190</lpage><permissions><copyright-statement>Copyright &amp;#x00A9; Захарова И.Г., Воробьева М.С., Боганюк Ю.В., 2022</copyright-statement><copyright-year>2022</copyright-year><copyright-holder xml:lang="ru">Захарова И.Г., Воробьева М.С., Боганюк Ю.В.</copyright-holder><copyright-holder xml:lang="en">Zakharova I.G., Vorobeva M.S., Boganyuk Y.V.</copyright-holder><license license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>This work is licensed under a Creative Commons Attribution 4.0 License.</license-p></license></permissions><self-uri xlink:href="https://www.edscience.ru/jour/article/view/2547">https://www.edscience.ru/jour/article/view/2547</self-uri><abstract><p>Введение. Получение профессионального образования в рамках индивидуальных образовательных траекторий (ИОТ) отвечает запросам как самих студентов, так и рынка труда в плане актуальности содержания, гибкости образовательного процесса и технологий обучения. Однако в условиях цифровизации сопровождение ИОТ, включая их планирование и последующее управление обучением, влечет появление новых требований к информационным системам, предназначенных для решения задач управления образовательным процессом вуза. Проблема настоящего исследования определяется существованием противоречия между закономерным для цифровизации интенсивным ростом объемов и разнообразия типов собираемых данных, которые можно и нужно использовать для сопровождения ИОТ, с одной стороны, и отсутствием в соответствующих информационных системах адекватных аналитических инструментов, с другой стороны.Цель статьи – исследование и апробация методологии цифровизации сопровождения ИОТ, основанной на применении концепции объяснимого искусственного интеллекта для анализа данных цифрового следа студента, содержания документов, регламентирующих образовательный процесс, а также запросов рынка труда.Методология и методы исследования. Теоретическую основу исследования составляет применение принципов объяснимого искусственного интеллекта к интерпретации данных об образовательном процессе и прогнозированию его результатов для выработки управляющих решений. Для предварительной обработки исходных документов используются методы интеллектуального анализа текстов на естественном языке. Для прогнозирования образовательных результатов применяются модели кластеризации, классификации и регрессии, созданные с помощью методов машинного обучения.Результаты. Были разработаны и исследованы модели прогнозирования с последующим формированием рекомендаций для задач выбора образовательной программы абитуриентами, выбора элективной дисциплины, формирования команды для группового проекта и трудоустройства в соответствии с профессиональными компетенциями. Разработана компьютерная программа, которая автоматически формирует объективные и объяснимые рекомендации, основанные на экспертных знаниях и результатах прогнозирования. Алгоритм построения рекомендаций разделен на этапы и предусматривает вариативность в принятии решений.Научная новизна. Предложена методология цифровизации сопровождения ИОТ, отвечающая принципам объяснимого искусственного интеллекта, когда по результатам анализа данных об образовательном процессе выполняется прогноз образовательных результатов и автоматически формируются персонализированные рекомендации. Разработанный подход подтвердил свою результативность при апробации на примере направлений подготовки бакалавриата и магистратуры в области компьютерных наук, информационных технологий и информационной безопасности.Практическая значимость. Предварительный анализ значительных объемов исходных данных позволил получить объективную информацию о качестве данных, включая содержание и структуру документов, представленных в различных информационных системах вуза. На основании теоретических результатов исследования была разработана рекомендательная система. Она включила специальные сервисы для обучающихся, преподавателей, тьюторов и административных работников, предоставляющие наглядные и ориентированные на конкретного пользователя результаты прогнозов и рекомендации. Тестирование сервисов в Институте математики и компьютерных наук Тюменского государственного университета подтвердило целесообразность развития функциональных возможностей информационных систем вуза в направлении сбора и анализа данных цифрового следа студента и востребованность результатов этого анализа как субъектами образовательного процесса, так и представителями рынка труда.</p></abstract><trans-abstract xml:lang="en"><p>Introduction. Professional education in the context of individual educational trajectories (IET) meets the needs of both students themselves and the labour market due to the relevance of the content, flexibility of the educational process and learning technologies. However, in the context of digitalisation, IET support, including their planning and subsequent management of learning, entails the emergence of new requirements for information, analytical and methodological support of information systems designed to manage the educational process of the university. The problem of this study is determined by the contradiction between the intensive growth (natural for digitalisation) in the volume and variety of types of collected data, which can and should be used to support IET. In addition, there is also a lack of adequate analytical tools in educational information management systems.Aim. The present research aimed to study and test the digitalisation methodology for IET support, based on the application of the concept of explainable artificial intelligence for analysing student digital footprint data, the content of documents regulating the educational process, as well as labour market demands.Research methodology and methods. As a theoretical basis for the study, the authors relied on the principles of explainable artificial intelligence and their application to the interpretation of data from the educational process and the prediction of educational outcomes. The methods of intellectual analysis of texts in natural language were employed for preliminary processing of source documents. To predict educational outcomes, the authors used clustering, classification and regression models created through applying machine learning methods.Results. The authors developed and studied predictive models with the subsequent formation of recommendations for the tasks of choosing an educational programme by applicants, choosing an elective discipline, forming a team for a group project and employment in accordance with professional competencies. The developed computer program automatically generates objective and explainable recommendations based on expert knowledge and predicting results. The algorithm for constructing recommendations is divided into stages and provides for variability in decision making.Scientific novelty. The authors proposed a methodology for digital support of IET, corresponding to the principles of explainable artificial intelligence, i.e. machine learning models predict educational outcomes, and a special algorithm automatically generates personalised recommendations based on the results of the analysis of data on the educational process. The developed approach confirmed its effectiveness in testing on the example of bachelor’s and master’s degree programmes in the field of computer science, information technology and information security.Practical significance. A preliminary analysis of significant volumes of initial data made it possible to obtain objective information about the data quality, including the content and structure of documents presented in various university information systems. Based on the the oretical results of the research, the authors developed a recommendation system. It included special services for students, teaching staff, tutors, and administrators, providing visual and user-oriented predictive results and recommendations. Testing of services at the Institute of Mathematics and Computer Science of University of Tyumen confirmed the feasibility of developing the functionality of the university information systems in the direction of collecting and analysing data from a student’s digital footprint and the relevance of this analysis results both by subjects of the educational process and by the labour market.</p></trans-abstract><kwd-group xml:lang="ru"><kwd>индивидуальная образовательная траектория</kwd><kwd>цифровой след студента</kwd><kwd>интерпретация данных</kwd><kwd>прогнозирование</kwd><kwd>рекомендательная система</kwd><kwd>машинное обучение</kwd><kwd>объяснимый искусственный интеллект</kwd></kwd-group><kwd-group xml:lang="en"><kwd>individual educational trajectory</kwd><kwd>student digital footprint</kwd><kwd>data interpretation</kwd><kwd>prediction</kwd><kwd>recommendation system</kwd><kwd>machine learning</kwd><kwd>explainable artificial intelligence</kwd></kwd-group><funding-group xml:lang="ru"><funding-statement>Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 19-37-51028 и Научно-технологического университета «Сириус». Авторы выражают искреннюю признательность анонимным рецензентам, сделавшим ряд ценных замечаний.</funding-statement></funding-group><funding-group xml:lang="en"><funding-statement>The reported study was funded by the Russian Foundation for Basic Research (RFBR), project number 19-37-51028, and Sirius University of Science and Technology. The authors would like to express their sincere gratitude to the anonymous reviewers, who provided valuable comments.</funding-statement></funding-group></article-meta></front><back><ref-list><title>References</title><ref id="cit1"><label>1</label><citation-alternatives><mixed-citation xml:lang="ru">Зеер Э. Ф., Сыманюк Э. Э. Индивидуальные образовательные траектории в си-стеме непрерывного образования // Педагогическое образование в России. 2014. № 3. С. 74–82.</mixed-citation><mixed-citation xml:lang="en">Зеер Э. Ф., Сыманюк Э. Э. Индивидуальные образовательные траектории в си-стеме непрерывного образования // Педагогическое образование в России. 2014. № 3. С. 74–82.</mixed-citation></citation-alternatives></ref><ref id="cit2"><label>2</label><citation-alternatives><mixed-citation xml:lang="ru">Зеер Э. Ф., Заводчиков Д. П., Зиннатова М. В., Лебедева Е. В. Индивидуальная образовательная траектория как установка субъекта в системе непрерывного образования // Научный диалог. 2017. № 1. С. 266–279.</mixed-citation><mixed-citation xml:lang="en">Зеер Э. Ф., Заводчиков Д. П., Зиннатова М. В., Лебедева Е. В. Индивидуальная образовательная траектория как установка субъекта в системе непрерывного образования // Научный диалог. 2017. № 1. С. 266–279.</mixed-citation></citation-alternatives></ref><ref id="cit3"><label>3</label><citation-alternatives><mixed-citation xml:lang="ru">Andrews R., Li J., Lovenheim M. F. Heterogeneous paths through college: detailed patterns and relationships with graduation and earnings // Economics of Education Review. 2014. № 42. P. 93–108. DOI: 10.1016/j.econedurev.2014.07.002</mixed-citation><mixed-citation xml:lang="en">Andrews R., Li J., Lovenheim M. F. Heterogeneous paths through college: detailed patterns and relationships with graduation and earnings // Economics of Education Review. 2014. № 42. P. 93–108. DOI: 10.1016/j.econedurev.2014.07.002</mixed-citation></citation-alternatives></ref><ref id="cit4"><label>4</label><citation-alternatives><mixed-citation xml:lang="ru">Haas C., Hadjar A. Students’ trajectories through higher education: a review of quantitative research // Higher Education. 2020. № 79 (6). P. 1099–1118. DOI: 10.1007/s10734-019-00458-5</mixed-citation><mixed-citation xml:lang="en">Haas C., Hadjar A. Students’ trajectories through higher education: a review of quantitative research // Higher Education. 2020. № 79 (6). P. 1099–1118. DOI: 10.1007/s10734-019-00458-5</mixed-citation></citation-alternatives></ref><ref id="cit5"><label>5</label><citation-alternatives><mixed-citation xml:lang="ru">Зеер Э. Ф., Церковникова Н. Г., Третьякова В. С. Цифровое поколение в контексте прогнозирования профессионального будущего // Образование и наука. 2021. Т. 23, № 6. С. 153–184. DOI: 10.17853/1994-5639-2021-6-153-184</mixed-citation><mixed-citation xml:lang="en">Зеер Э. Ф., Церковникова Н. Г., Третьякова В. С. Цифровое поколение в контексте прогнозирования профессионального будущего // Образование и наука. 2021. Т. 23, № 6. С. 153–184. DOI: 10.17853/1994-5639-2021-6-153-184</mixed-citation></citation-alternatives></ref><ref id="cit6"><label>6</label><citation-alternatives><mixed-citation xml:lang="ru">Clow D. The learning analytics cycle: closing the loop effectively // Proceedings of the 2nd International Conference on Learning Analytics and Knowledge – LAK’12. 29 April – 2 May 2012. Vancouver, British Columbia, Canada. New York: Association for Computing Machinery, 2012. P. 134–138.</mixed-citation><mixed-citation xml:lang="en">Clow D. The learning analytics cycle: closing the loop effectively // Proceedings of the 2nd International Conference on Learning Analytics and Knowledge – LAK’12. 29 April – 2 May 2012. Vancouver, British Columbia, Canada. New York: Association for Computing Machinery, 2012. P. 134–138.</mixed-citation></citation-alternatives></ref><ref id="cit7"><label>7</label><citation-alternatives><mixed-citation xml:lang="ru">Clow D. An overview of learning analytics // Teaching in Higher Education. 2013. № 18 (6). P. 683–695. DOI: 10.1080/13562517.2013.827653</mixed-citation><mixed-citation xml:lang="en">Clow D. An overview of learning analytics // Teaching in Higher Education. 2013. № 18 (6). P. 683–695. DOI: 10.1080/13562517.2013.827653</mixed-citation></citation-alternatives></ref><ref id="cit8"><label>8</label><citation-alternatives><mixed-citation xml:lang="ru">Jones K. M. Advising the whole student: eAdvising analytics and the contextual suppression of advisor values // Education and Information Technologies. 2019. № 24 (1). P. 437–458. DOI: 10.1007/s10639-018-9781-8</mixed-citation><mixed-citation xml:lang="en">Jones K. M. Advising the whole student: eAdvising analytics and the contextual suppression of advisor values // Education and Information Technologies. 2019. № 24 (1). P. 437–458. DOI: 10.1007/s10639-018-9781-8</mixed-citation></citation-alternatives></ref><ref id="cit9"><label>9</label><citation-alternatives><mixed-citation xml:lang="ru">Jones K. M. Just because you can doesn’t mean you should: practitioner perceptions of learning analytics ethics // Libraries and the Academy. 2019. № 19 (3). P. 407–428. DOI: 10.1353/pla.2019.0025</mixed-citation><mixed-citation xml:lang="en">Jones K. M. Just because you can doesn’t mean you should: practitioner perceptions of learning analytics ethics // Libraries and the Academy. 2019. № 19 (3). P. 407–428. DOI: 10.1353/pla.2019.0025</mixed-citation></citation-alternatives></ref><ref id="cit10"><label>10</label><citation-alternatives><mixed-citation xml:lang="ru">Pargman T. C., McGrath C. Mapping the terrain of ethics in learning analytics: A systematic literature review of empirical research // Journal of Learning Analytics. 2021. № 1. P. 1–17. DOI: 10.18608/jla.2021.1</mixed-citation><mixed-citation xml:lang="en">Pargman T. C., McGrath C. Mapping the terrain of ethics in learning analytics: A systematic literature review of empirical research // Journal of Learning Analytics. 2021. № 1. P. 1–17. DOI: 10.18608/jla.2021.1</mixed-citation></citation-alternatives></ref><ref id="cit11"><label>11</label><citation-alternatives><mixed-citation xml:lang="ru">Tsai Y. S., Poquet O., Gašević D., Dawson S., Pardo A. Complexity leadership in learning analytics: Drivers, challenges, and opportunities // British Journal of Educational Technology. 2019. № 50 (6). P. 2839–2854. DOI: 10.1111/bjet.12846</mixed-citation><mixed-citation xml:lang="en">Tsai Y. S., Poquet O., Gašević D., Dawson S., Pardo A. Complexity leadership in learning analytics: Drivers, challenges, and opportunities // British Journal of Educational Technology. 2019. № 50 (6). P. 2839–2854. DOI: 10.1111/bjet.12846</mixed-citation></citation-alternatives></ref><ref id="cit12"><label>12</label><citation-alternatives><mixed-citation xml:lang="ru">Kitto K., Knight S. Practical ethics for building learning analytics // British Journal of Educational Technology 2019. № 50 (6). P. 2855–2870. DOI: 10.1111/bjet.12868</mixed-citation><mixed-citation xml:lang="en">Kitto K., Knight S. Practical ethics for building learning analytics // British Journal of Educational Technology 2019. № 50 (6). P. 2855–2870. DOI: 10.1111/bjet.12868</mixed-citation></citation-alternatives></ref><ref id="cit13"><label>13</label><citation-alternatives><mixed-citation xml:lang="ru">Castelvecchi D. Can we open the black box of AI? // Nature News. 2016. № 538 (7623). P. 20–23. DOI: 10.1038/538020a</mixed-citation><mixed-citation xml:lang="en">Castelvecchi D. Can we open the black box of AI? // Nature News. 2016. № 538 (7623). P. 20–23. DOI: 10.1038/538020a</mixed-citation></citation-alternatives></ref><ref id="cit14"><label>14</label><citation-alternatives><mixed-citation xml:lang="ru">Lipton Z. C. The mythos of model interpretability // Communications of the ACM. 2018. № 61 (10). P. 36–43. DOI: 10.1145/3233231</mixed-citation><mixed-citation xml:lang="en">Lipton Z. C. The mythos of model interpretability // Communications of the ACM. 2018. № 61 (10). P. 36–43. DOI: 10.1145/3233231</mixed-citation></citation-alternatives></ref><ref id="cit15"><label>15</label><citation-alternatives><mixed-citation xml:lang="ru">Miller T. Explanation in artificial intelligence: Insights from the social sciences // Artificial Intelligence. 2019. № 267. P. 1–38. DOI: 10.1016/j.artint.2018.07.007</mixed-citation><mixed-citation xml:lang="en">Miller T. Explanation in artificial intelligence: Insights from the social sciences // Artificial Intelligence. 2019. № 267. P. 1–38. DOI: 10.1016/j.artint.2018.07.007</mixed-citation></citation-alternatives></ref><ref id="cit16"><label>16</label><citation-alternatives><mixed-citation xml:lang="ru">Gunning D., Aha D. DARPA’s explainable artificial intelligence (XAI) program // AI Magazine. 2019. № 40 (2). P. 44–58. DOI: 10.1609/aimag.v40i2.2850</mixed-citation><mixed-citation xml:lang="en">Gunning D., Aha D. DARPA’s explainable artificial intelligence (XAI) program // AI Magazine. 2019. № 40 (2). P. 44–58. DOI: 10.1609/aimag.v40i2.2850</mixed-citation></citation-alternatives></ref><ref id="cit17"><label>17</label><citation-alternatives><mixed-citation xml:lang="ru">Захарова И. Г. Методы машинного обучения для информационного обеспечения управления профессиональным развитием студентов // Образование и наука. 2018. Т. 23, № 9. С. 91–114. DOI: 10.17853/1994-5639-2018-9-91-114</mixed-citation><mixed-citation xml:lang="en">Захарова И. Г. Методы машинного обучения для информационного обеспечения управления профессиональным развитием студентов // Образование и наука. 2018. Т. 23, № 9. С. 91–114. DOI: 10.17853/1994-5639-2018-9-91-114</mixed-citation></citation-alternatives></ref><ref id="cit18"><label>18</label><citation-alternatives><mixed-citation xml:lang="ru">Bird S., Klein E., Loper E. Natural language processing with Python: Analyzing Text with the natural language toolkit. Sebastopol. CA: O’Reilly Media, 2009. 504 p.</mixed-citation><mixed-citation xml:lang="en">Bird S., Klein E., Loper E. Natural language processing with Python: Analyzing Text with the natural language toolkit. Sebastopol. CA: O’Reilly Media, 2009. 504 p.</mixed-citation></citation-alternatives></ref><ref id="cit19"><label>19</label><citation-alternatives><mixed-citation xml:lang="ru">Pedregosa F., Varoquaux G., Gramfort A., Michel V., Thirion B., Grisel O., Duchesnay E. Scikit-learn: Machine learning in Python // Journal of Machine Learning Research. 2011. № 12. P. 2825–2830. Available from: https://www.jmlr.org/papers/volume12/pedregosa11a/pedregosa11a.pdf (date of access: 30.07.2021).</mixed-citation><mixed-citation xml:lang="en">Pedregosa F., Varoquaux G., Gramfort A., Michel V., Thirion B., Grisel O., Duchesnay E. Scikit-learn: Machine learning in Python // Journal of Machine Learning Research. 2011. № 12. P. 2825–2830. Available from: https://www.jmlr.org/papers/volume12/pedregosa11a/pedregosa11a.pdf (date of access: 30.07.2021).</mixed-citation></citation-alternatives></ref><ref id="cit20"><label>20</label><citation-alternatives><mixed-citation xml:lang="ru">Salehi M., Kamalabadi I. N., Ghoushchi M. B. G. Personalized recommendation of learning material using sequential pattern mining and attribute based collaborative filtering //Education and Information Technologies. 2014. № 19 (4). P. 713–735. DOI: 10.1007/s10639-012-9245-5</mixed-citation><mixed-citation xml:lang="en">Salehi M., Kamalabadi I. N., Ghoushchi M. B. G. Personalized recommendation of learning material using sequential pattern mining and attribute based collaborative filtering //Education and Information Technologies. 2014. № 19 (4). P. 713–735. DOI: 10.1007/s10639-012-9245-5</mixed-citation></citation-alternatives></ref><ref id="cit21"><label>21</label><citation-alternatives><mixed-citation xml:lang="ru">Захарова И. Г., Боганюк Ю. В., Воробьева М. С. Павлова Е. А. Диагностика профессиональной компетентности студентов ИТ-направлений на основе данных цифрового следа // Информатика и образование. 2020. № 4. С. 4–11. DOI: 10.32517/0234-0453-2020-35-4-4-11</mixed-citation><mixed-citation xml:lang="en">Захарова И. Г., Боганюк Ю. В., Воробьева М. С. Павлова Е. А. Диагностика профессиональной компетентности студентов ИТ-направлений на основе данных цифрового следа // Информатика и образование. 2020. № 4. С. 4–11. DOI: 10.32517/0234-0453-2020-35-4-4-11</mixed-citation></citation-alternatives></ref><ref id="cit22"><label>22</label><citation-alternatives><mixed-citation xml:lang="ru">Zawacki-Richter O., Marín V. I., Bond M., Gouverneur F. Systematic review of research on artificial intelligence applications in higher education – where are the educators? // International Journal of Educational Technology in Higher Education. 2019. № 16(1). P. 1–27. DOI: 10.1186/s41239-019-0171-0</mixed-citation><mixed-citation xml:lang="en">Zawacki-Richter O., Marín V. I., Bond M., Gouverneur F. Systematic review of research on artificial intelligence applications in higher education – where are the educators? // International Journal of Educational Technology in Higher Education. 2019. № 16(1). P. 1–27. DOI: 10.1186/s41239-019-0171-0</mixed-citation></citation-alternatives></ref><ref id="cit23"><label>23</label><citation-alternatives><mixed-citation xml:lang="ru">Schröer C., Kruse F., Gómez J. M. A Systematic literature review on applying CRISPDM process model // Procedia Computer Science. 2021. Vol. 18. P. 526–534. DOI: 10.1016/j.procs.2021.01.199</mixed-citation><mixed-citation xml:lang="en">Schröer C., Kruse F., Gómez J. M. A Systematic literature review on applying CRISPDM process model // Procedia Computer Science. 2021. Vol. 18. P. 526–534. DOI: 10.1016/j.procs.2021.01.199</mixed-citation></citation-alternatives></ref><ref id="cit24"><label>24</label><citation-alternatives><mixed-citation xml:lang="ru">Боргест Н. М. Стратегии интеллекта и его онтологии: попытка разобраться // Онтология проектирования. 2019. Т. 9, № 4. С. 407-428. DOI: 10.18287/2223-9537-2019-9-4-407-428</mixed-citation><mixed-citation xml:lang="en">Боргест Н. М. Стратегии интеллекта и его онтологии: попытка разобраться // Онтология проектирования. 2019. Т. 9, № 4. С. 407-428. DOI: 10.18287/2223-9537-2019-9-4-407-428</mixed-citation></citation-alternatives></ref><ref id="cit25"><label>25</label><citation-alternatives><mixed-citation xml:lang="ru">George G., Lal A. M. Review of ontology-based recommender systems in e-learning // Computers &amp; Education. 2019. Vol. 142. DOI: 10.1016/j.compedu.2019.103642. Available from: https://www.sciencedirect.com/science/article/pii/S0360131519301952 (date of access: 30.07.2021).</mixed-citation><mixed-citation xml:lang="en">George G., Lal A. M. Review of ontology-based recommender systems in e-learning // Computers &amp; Education. 2019. Vol. 142. DOI: 10.1016/j.compedu.2019.103642. Available from: https://www.sciencedirect.com/science/article/pii/S0360131519301952 (date of access: 30.07.2021).</mixed-citation></citation-alternatives></ref><ref id="cit26"><label>26</label><citation-alternatives><mixed-citation xml:lang="ru">Guo S., Zeng D., Dong S. Pedagogical data analysis via federated learning toward Education 4.0 // American Journal of Education and Information Technology. 2020. № 4 (2). P. 56–65. DOI: 10.11648/j.ajeit.20200402.13</mixed-citation><mixed-citation xml:lang="en">Guo S., Zeng D., Dong S. Pedagogical data analysis via federated learning toward Education 4.0 // American Journal of Education and Information Technology. 2020. № 4 (2). P. 56–65. DOI: 10.11648/j.ajeit.20200402.13</mixed-citation></citation-alternatives></ref><ref id="cit27"><label>27</label><citation-alternatives><mixed-citation xml:lang="ru">Arrieta A. B., Díaz-Rodríguez N., Del Ser J., Bennetot A., Tabik S., Barbado A., et al. Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities, and challenges toward responsible AI // Information Fusion. 2020. Vol. 58. P. 82–115. DOI: 10.1016/j.inffus.2019.12.012</mixed-citation><mixed-citation xml:lang="en">Arrieta A. B., Díaz-Rodríguez N., Del Ser J., Bennetot A., Tabik S., Barbado A., et al. Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities, and challenges toward responsible AI // Information Fusion. 2020. Vol. 58. P. 82–115. DOI: 10.1016/j.inffus.2019.12.012</mixed-citation></citation-alternatives></ref><ref id="cit28"><label>28</label><citation-alternatives><mixed-citation xml:lang="ru">Zhou W., Han W. Personalized recommendation via user preference matching // Information Processing &amp; Management. 2019. № 56 (3). P. 955–968. DOI: 10.1016/j.ipm.2019.02.002</mixed-citation><mixed-citation xml:lang="en">Zhou W., Han W. Personalized recommendation via user preference matching // Information Processing &amp; Management. 2019. № 56 (3). P. 955–968. DOI: 10.1016/j.ipm.2019.02.002</mixed-citation></citation-alternatives></ref></ref-list><fn-group><fn fn-type="conflict"><p>The authors declare that there are no conflicts of interest present.</p></fn></fn-group></back></article>
