From: Alexander Bokovoy <ab@altlinux.org> To: ALT Linux Team development discussions <devel@lists.altlinux.org> Subject: Re: [devel] ccache(1) to prop things up Date: Thu, 9 Feb 2012 10:20:22 +0200 Message-ID: <CAG0OwAHO90gxUsHLBDmNPkHLVR3katZVVaykTCogiwsX+L+ATw@mail.gmail.com> (raw) In-Reply-To: <20120209061427.GA15463@altlinux.org> 2012/2/9 Alexey Tourbin <at@altlinux.ru>: > On Thu, Feb 02, 2012 at 04:36:49AM +0400, Alexey Tourbin wrote: >> Но эта система была направлена на строгий учет изменений и контроль >> целостности репозитория. А реализовать ее не удалось, потому что это >> требовало сборочных ресурсов, которые оказались фирме альт линукс не по >> карману. Возможно, стратегической ошибкой было и то, что мы не хотели >> использовать ccache(1) по крайней мере для тестовой пересборки, а это >> могло бы значительно удешевить процесс. > > Когда в 2002 году ab и sb разрабатывали sandman (прототип сборочной > системы), они предлагали, насколько я помню, монтировать внутрь чрута > глобальный раздел с ~/.ccache. На это есть два возражения. С точки > зрения безопасности это дает интерференцию между пакетами. С точки > зрения распределенной архитектуры это требует синхронизацию кеша. > > Оба возражения снимаются, если для каждого пакета поддерживать > персональный "сикеш". Более того, поскольку сборка пакета идет обычно > идет в каталоге ~/RPM/BUILD/%name-%version, а при компиляции с флагом -g > учитываются пути к исходным файлам, то персональный сикеш можно сразу же > ограничить не только именем пакета, но и версией. > > То есть можно было бы сделать файлы типа ccache/%name-%version.tar.gz, > и гонять их зад-назад вместе с src.rpm. > > Если преследовать еще более строгую схему, которая исключает влияние > сикеша по крайней мере на "настоящие" пакеты, которые поступют в > репозиторий, то можно сделать следующее. Пакеты всегда собираются > через сикеш. Сборка "настоящего" пакета (внутри задания) просто > будет выполняться при пустом ~/.ccache (фактически в режиме write-only), > но результат сохраняется для последующих тестовых пересборок (в режиме > read-write). В качестве (не совсем уж и альтернативного) варианта можно использовать вариацию схемы, которая используется в Fedora. Для каждой сборочной цели (репозитория) сборочная система ведет кэш базовой системы ("buildroot"). Этот кэш базовой системы живет несколько дольше, чем обычно из-за двухстадийной схемы попадания пакетов в репозитории: из групп (stable + updates) и (updates-testing) кэш базовой системы формируется только из первой группы, с возможностью замещения определенных пакетов в нем собранными, но неотправленными в репозитории. Стоимость формирования такого кэша для одной архитектуры -- 5-7 минут, даже если он регенерируется каждый день. Если мы из используемого при сборке кэша ccache будем собирать разницу в пакеты foo-ccacheinfo по аналогии с debuginfo, то можно будет генерировать такой кэш базовой системы и для ccache. Или просто устанавливать принудительно предыдущую версию foo-ccacheinfo и зависимости при сборке пакета. > Я проделал некоторые замеры. Повторная сборка elinks с сикешем идет > примерно на 20% быстрее, а повторная сборка apt - в 2 раза. То есть > наибольшая выгода, очевидно, будет на больших пакетах с Си++ кодом. > В первом приближении (пальцем в небо) сикеш может ускорить тестовую > пересборку репозитория в 2 раза. > _______________________________________________ > Devel mailing list > Devel@lists.altlinux.org > https://lists.altlinux.org/mailman/listinfo/devel -- / Alexander Bokovoy
next prev parent reply other threads:[~2012-02-09 8:20 UTC|newest] Thread overview: 37+ messages / expand[flat|nested] mbox.gz Atom feed top 2011-12-19 20:01 [devel] I: imported libraries Igor Vlasenko 2011-12-21 8:05 ` thecrux 2011-12-21 9:28 ` Sergey Y. Afonin 2011-12-21 11:05 ` Paul Wolneykien 2011-12-21 10:16 ` Денис Смирнов 2011-12-21 11:16 ` Michael Shigorin 2011-12-21 11:03 ` Paul Wolneykien 2011-12-21 12:25 ` thecrux 2011-12-21 12:59 ` Paul Wolneykien 2011-12-21 18:37 ` Igor Vlasenko 2011-12-22 10:09 ` Paul Wolneykien 2011-12-22 10:14 ` Dmitriy Kruglikov 2011-12-22 20:56 ` Igor Vlasenko 2011-12-22 21:15 ` Paul Wolneykien 2011-12-23 6:44 ` thecrux 2011-12-23 10:18 ` [devel] I: overlays Paul Wolneykien 2011-12-23 12:48 ` thecrux 2011-12-23 15:31 ` Denis G. Samsonenko 2011-12-23 15:50 ` thecrux 2011-12-23 16:30 ` Denis G. Samsonenko 2011-12-26 11:47 ` Michael Shigorin 2011-12-23 19:16 ` [devel] [JT] I: overlay bantustans Igor Vlasenko 2011-12-23 20:07 ` Paul Wolneykien 2011-12-26 11:51 ` Michael Shigorin 2011-12-26 19:32 ` Igor Vlasenko 2011-12-27 23:50 ` [devel] I: imported libraries Vitaly Lipatov 2012-01-28 0:19 ` [devel] Q: personal package repositories: user PoV Dmitry V. Levin 2012-01-28 1:26 ` Led 2012-01-30 13:23 ` Денис Смирнов 2012-02-01 17:47 ` Alexey Tourbin 2012-02-01 18:57 ` Dmitry V. Levin 2012-02-02 0:36 ` Alexey Tourbin 2012-02-04 10:37 ` Michael Shigorin 2012-02-06 9:38 ` George V. Kouryachy 2012-02-09 6:14 ` [devel] ccache(1) to prop things up Alexey Tourbin 2012-02-09 8:20 ` Alexander Bokovoy [this message] 2011-12-21 18:25 ` [devel] I: imported libraries Igor Vlasenko
Reply instructions: You may reply publicly to this message via plain-text email using any one of the following methods: * Save the following mbox file, import it into your mail client, and reply-to-all from there: mbox Avoid top-posting and favor interleaved quoting: https://en.wikipedia.org/wiki/Posting_style#Interleaved_style * Reply using the --to, --cc, and --in-reply-to switches of git-send-email(1): git send-email \ --in-reply-to=CAG0OwAHO90gxUsHLBDmNPkHLVR3katZVVaykTCogiwsX+L+ATw@mail.gmail.com \ --to=ab@altlinux.org \ --cc=devel@lists.altlinux.org \ /path/to/YOUR_REPLY https://kernel.org/pub/software/scm/git/docs/git-send-email.html * If your mail client supports setting the In-Reply-To header via mailto: links, try the mailto: link
ALT Linux Team development discussions This inbox may be cloned and mirrored by anyone: git clone --mirror http://lore.altlinux.org/devel/0 devel/git/0.git # If you have public-inbox 1.1+ installed, you may # initialize and index your mirror using the following commands: public-inbox-init -V2 devel devel/ http://lore.altlinux.org/devel \ devel@altlinux.org devel@altlinux.ru devel@lists.altlinux.org devel@lists.altlinux.ru devel@linux.iplabs.ru mandrake-russian@linuxteam.iplabs.ru sisyphus@linuxteam.iplabs.ru public-inbox-index devel Example config snippet for mirrors. Newsgroup available over NNTP: nntp://lore.altlinux.org/org.altlinux.lists.devel AGPL code for this site: git clone https://public-inbox.org/public-inbox.git