Поясняет Паша Вавилин, наставник на курсе по Python:
Есть такое понятие — время ответа (или «стоимость обращения»). Оно означает, сколько времени нужно системе, чтобы выдать ответ на запрос. Это время может значительно различаться.
Например, получить данные по сети или прочитать с диска будет гораздо дольше, чем если эти данные уже лежат в оперативной памяти компьютера. Но по меркам процессора поиск по индексу в оперативной памяти и чтение из оперативной памяти — это тоже довольно долго.
Поэтому придумали несколько кешей в самом процессоре: это такие небольшие участки памяти для максимально быстрого доступа к данным. В эти кеши попадают не всякие данные, а только те, которые наиболее часто используются. Расчёт на то, что если мы уже раз 10 запросили какие-то данные, то, наверное, эти данные мы запросим и далее несколько раз. А ещё можно указывать компилятору, что эти такие-то данные лучше положить в кеш, но компилятор не обязан это делать, а только примет к сведению.
А вот обычные человеки не такие продуманные, как инженеры процессоров. Особенно мамы! Зачем-то они заставляют всё раскладывать по ящикам и шкафам, в итоге тратится уйма времени на доступ к ним. Например, на поиск футболки уйдёт 15 секунд, ещё 15 — штаны, ещё 15 — носки, ещё 15 — трусы (порядок может быть иным). В итоге минута ушла только на поиск и «загрузку» одежды. А это ещё надо будет уложить обратно. То есть в день 2 минуты уходит на загрузку-выгрузку. В неделю 14–15 минут. В месяц целый час!!!!