phase1: report ccache stats at end of build

ccache.sh tries to report ccache statistics but at the time this
script is run, the ccache binary hasn't been built and is thus
unavailable.

This patch tries to run 'ccache -s' at the end of the build. It
will look for ccache in the staging_dir first then in the host PATH.

Signed-off-by: Thibaut VARÈNE <hacks@slashdirt.org>

phase1: opportunistic use of ccache

Assuming that CONFIG_CCACHE is disabled in the target config.seed,
this patch tries to enable the use of ccache (if available from the host)
for the 'dltar' and 'tools' steps, which are the only two steps where the
build objects are shared by /all/ workers, and thus the two steps where
caching makes the most sense and should provide the most benefits.

Signed-off-by: Thibaut VARÈNE <hacks@slashdirt.org>

phase1: download ccache.sh to slavedir

Align behaviour with other script downloads.

Signed-off-by: Thibaut VARÈNE <hacks@slashdirt.org>

phase1: remove redundant git steps and document

Based on buildbot documentation and the contents of
`buildbot/steps/source/git.py'

Signed-off-by: Thibaut VARÈNE <hacks@slashdirt.org>

phase1: Git step method 'clean' only works in mode 'full'

Signed-off-by: Thibaut VARÈNE <hacks@slashdirt.org>

phase1: don't expire the tree if cleanup is requested

expire.sh will wipe the git repository, which is unnecessary and
adds overhead (redownload) if cleanup is already enacted.

Signed-off-by: Thibaut VARÈNE <hacks@slashdirt.org>

phase1: do not exceed nproc build concurrency

Contrary to popular belief, exceeding the number of available CPU cores
in parallel builds (by running e.g. 'make -j$(($nproc+1))' where 'nproc'
is the number of active CPUs on the system) brings no performance benefit,
and may in fact negatively affect build times. This performance hit can
be further aggravated by the extra memory pressure resulting from the
extraneous jobs.

See:
- https://blog.regehr.org/archives/1416
- http://blog.stuffedcow.net/2011/08/hyperthreading-performance/

This is particularly relevant in two distinct cases:
- on hyper-threaded systems, where half of the active CPUs are separate
  threads on the same physical core;
- on virtualized guests systems, where the host physical CPUs are already
  affected by system overhead not visible to the guest.

Signed-off-by: Thibaut VARÈNE <hacks@slashdirt.org>

phase1: update config.seed.example with CCACHE=n, AUTOREMOVE=y

Signed-off-by: Thibaut VARÈNE <hacks@slashdirt.org>

phase1: kernelversion: add missing LF

Signed-off-by: Thibaut VARÈNE <hacks@slashdirt.org>

phase1: "Building and installing" for appropriate steps

Signed-off-by: Thibaut VARÈNE <hacks@slashdirt.org>

phase1: don't enable rsync compression where unnecessary

Enabling rsync compression for already compressed files adds CPU
and memory overhead that negatively impacts upload speed on data
that cannot be further compressed.

By default rsync ignores '-z' on a number of files it knows to be
already compressed (based on filename suffix), but the list is not
exhaustive and doesn't include e.g. '.ipk'. Instead of trying to maintain
a list of all known compressed suffixes uploaded by the build system,
it's simpler and less error prone to simply disable the option for
specific steps where all or nearly all of the transferred files are known
to be already compressed.

Signed-off-by: Thibaut VARÈNE <hacks@slashdirt.org>

phase1: reduce verbosity of rsync

The purpose of this patch is to reduce uplink bandwidth contention when
rsync uploads are running.

This patch:
- replaces '-v' and '--progress' by '--info=name' in rsync's parameter
  list (assuming it's necessary to output a list of updated files)
- introduces a wrapper script 'rsync.sh' which checks for the presence
  and executability of 'pv' and pipes the output of rsync through
  'pv -t -i 60 -f' if possible, and falls back to plain rsync otherwise.

'--info=name' prints one line to stdout for each file that is updated on
the remote side.
'pv -t -i 60 -f' prints a 1mn-resolution timer to stderr, with the goal
of preventing the current buildbot step to timeout due to lack of process
output.

It's worth noting that '--progress' did not prevent some timeouts (most
notably on the 'sourceupload' step) since --progress only emits output
for files that are updated on the remote side.

Signed-off-by: Thibaut VARÈNE <hacks@slashdirt.org>

phase1: rsync: use --size-only instead of --checksum

'--checksum' puts heavy I/O and memory load on both the sender and the
receiver and dramatically reduces rsync's speedup. Furthermore, if
multiple slaves are uploading at once the receiver may become overloaded,
slowing down the whole build farm. From rsync manpage:
    Generating the checksums means that both sides will expend a lot of
    disk I/O reading all the data in the files in the transfer (and this
    is prior to any reading that will be done to transfer changed files),
    so this can slow things down significantly.
This slowdown causes timeouts for some build slaves, noticeably in the
'sourceupload' step.

'--size-only' matches files by size only. Compared to '--checksum', it is
faster, and does not aggravate the collision/error risk (if two files of
the same name and size have different checksums, we don't have a heuristic
to determine which is "correct" and which is "invalid" anyway)

Signed-off-by: Thibaut VARÈNE <hacks@slashdirt.org>

phase1: provide upload/download locking

This patch offers an optional locking mechanism to ensure that specific
build slaves do not perform concurrent network operations

Each slave definition can feature two additional options:

ul_lock = <lock identifier string>
dl_lock = <lock identifier string>

In the scenario where a group of build slaves share the same physical
network link, these variables can be used as follows:

If the link is full duplex capable, each slave from the target group
would be configured with e.g.:

dl_lock = slavegroup1_dl
ul_lock = slavegroup1_ul

This enables separate locks for uplink and downlink.

If the link is not full duplex capable, then each slave from the target
group would be configured with e.g.:

dl_lock = slavegroup1
ul_lock = slavegroup1

Effectively making uplink and downlink share the same lock

If neither option is set, no lock is enforced and the patch is a no-op.

In this patch the locks are only applied to steps that cause significant
network traffic.

Signed-off-by: Thibaut VARÈNE <hacks@slashdirt.org>

phase1: add kmod archiving and cleanup settings

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: cleanup.sh: add hack to remove npm / jsmake debris

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

sourceupload: add slave name to rsync temp directory name

This solves clashes when the same target builders on different clusters
upload source archives at the same time.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: move cleanup.sh script out of build/ subdir

When cleanup.sh itself is placed into the build/ subdir, subsequent Git()
source steps will fail with a directory not empty error.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: LEDE -> OpenWrt rebranding

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: add support for per-slave cleanup

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: abort if ccache or dl/ setup failed

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: ccache.sh: fail on error

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: rename gpg signature files .gpg -> .asc

gnupg doesn't recognize .gpg files by it's extension.

> gpg --verify sha256sums.gpg
>> gpg: no signed data
>> gpg: can't hash datafile: No data

Signed-off-by: Alexander Couzens <lynxis@fe80.eu>

phase1: dumpinfo.pl: honour source-only flag for subtargets as well

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: remove automatic tagging support

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: add hack to derive base feed url from buildroot

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: prefer IPv4 for remote rsync operations

Various build slaves tend to have slow or unrelaible IPv6 connectivity
so instruct rsync to prefer IPv4 for file transfer.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: prefer IPv4 for remote rsync operations

Various build slaves tend to have slow or unrelaible IPv6 connectivity
so instruct rsync to prefer IPv4 for file transfer.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: do not perform shallow fetches

We do need the full history later on.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: fetch before checking out git branch

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: invoke feeds update with -f

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: update config.seed.example for the new CONFIG_BUILDBOT option

Signed-off-by: Felix Fietkau <nbd@nbd.name>

phase1: fix bad argument to MasterShellCommand()

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: fix misspelled function name

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: prioritize tagged build requests

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: rely on rsync to merge updated SDK components

Relying on the file modtime is unreliable so we cannot trust tar's
--keep-newer-files to properly overwrite changed SDK components.

Extract into a different directory instead and use rsync with checksum
mode to replace updated SDK files.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: stop build process on compile failures

Do not proceed the build if package/compile failed in order to prevent
breaking the live repositories.

Since aborts in this phase usually happen due to out-of-space or other
unrecoverable issues, it makes no sense to continue processing the
partially finished build artifacts.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: increase package compilation timeout

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: maketag.sh: write version and version.date files as well

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: fix workdir of maketag.sh step

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: allow tag versions with rc designations

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: --keep-newer-files and --no-overwrite-dir are exclusive

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: ccache.sh: also overwrite dangling symlinks

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1/dumpinfo.pl: add a feature flag for skipping targets

Also get rid of the uml special case

Signed-off-by: Felix Fietkau <nbd@nbd.name>

phase1: fix GNU tar build target

Recent buildroots do not have a dedicated tools/*/install target anymore.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: move ccache.sh invocation step as well

The previous commit just moved the download step and not the actual invocation.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: set CCACHE_BASEDIR

Add CCACHE_BASEDIR to make environment in order to improve cache hit rate for
the global shared cache.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: set CCACHE_BASEDIR

Add CCACHE_BASEDIR to default environment in order to improve cache hit rate
for the global shared cache.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: move ccache preparation after defconfig

The ccache.sh helper script uses make targets to figure out staging_dir paths
which might trigger interactive menuconfig in case there is no populated
.config file yet, leading to command timeouts on fresh trees.

Move the ccache preparation step after defconfig in order to avoid triggering
menuconfig.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: ccache.sh: avoid creating nested symlink

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1, phase2: add unified ccache handling

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: run package/cleanup before package/compile

This is done by the full make run as well, and it cleans up
STAGING_DIR_ROOT/

Signed-off-by: Felix Fietkau <nbd@nbd.name>

phase2: implement tree expiry, use CONFIG_AUTOREMOVE

 - Implement option to expire the build tree after it reached its maximum age
 - Enable the CONFIG_AUTOREMOVE feature to keep build_dir small
 - Do not clobber pre-existing SDK directory when extracting newer SDK

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1, phase2: reduce backlog size

The build logs take up a lot of space and are relatively rarely needed,
so only keep logs for the last 20 builds and general info for the last
30 builds.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: support to request specific CC / CXX versions

In order to ensure the portability of the resulting SDK to a broad range of
systems, add support to request specific host compiler versions by overriding
the CC and CXX environment variables.

Also ship a script which aids in locating proper executables.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1, phase2: use --progress for larger rsync uploads

This avoids build step timeouts on slaves with weak connectivity to the
central rsync server.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: generate feeds.conf artifact with fixed revision urls

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: add diffconfig step

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

global: calculate suitable number of jobs

Use the formula (n_cpus / n_builds) + 1 to calculate a suitable value for -j.

Also introduce a new general configuration option "other_builds" which is
added to n_builds. This is needed in cases where multiple build masters run
on the same machine.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: manually fetch remote Git refs

Buildbot never updates the remote branch reference on incremental updates,
causing scripts/getver.sh to assume a dirty tree with unpublished local
commits.

Add a manual command step to update the remote branch ref in order to bring
the remote tracking branch history in sync with the local branch.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: run maketag.sh under exclusive lock

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: adjust change filter

Instead of hardcoding the master branch, filter incoming changes by the branch
used for the corresponding feed.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

makebranch.sh: use -SNAPSHOT instead of -CURRENT for untagged branch builds

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: use -SNAPSHOT instead of -CURRENT as build designation

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

maketag.sh: use the output of getver.sh verbatim

Do not append Git commit hashes to the getver.sh reported version but take the
value verbatim. Also change the Git author to "Release Management".

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

makebranch.sh: use YY.MM-CURRENT designation for branch versions

Also use "Release Management" as Git author.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: use YY.MM-CURRENT as branch directory

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: don't fail if Git is not yet cloned

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: add base version suffix to directory for non-master builds

Also support persistent operation where previous build artifacts are not
cleared out.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: create version directories

For tagged or non-master builds, emit version subdirectories for the binary
artifacts and symlink the shared feed repositories to a common location.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: support creating tags on demand

If a build is forcibly invoked with a custom tag=x.y.z property, the builder
will prepare and push the appropriate Git repository tag.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: add helper scripts for creating branches and tags

These scripts will be used to prepare release branches and repository tags.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: switch away from deprecated slave side Git step

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: improve Git cloning on the master

Avoid switching branches later and checkout the proper branch right away.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

Remove unsupported logEnviron from master command calls

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

Allow overriding GnuPG home directory

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: use a different name for the Git clone work directory

Upon first start, the build master expects a clean directory to issue
git init --bare in, therfore we cannot use the clone used for bootstrapping.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: move initial .config into external file

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: remove duplicate branch argument

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: honour branch references in feeds.conf

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: fix typo in previous commit

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: support specifying repository source branch

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: also honour branch in Git() step

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: avoid creating nested dl/ symlinks

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: avoid creating nested dl/ symlinks

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: make sdk_password setting optional

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: remove unused cleanup script

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: pass buildbot url to cleanup.sh

Instead of hardcoding the REST url in the cleanup script, pass the value
derived from the configuration.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: make SDK URL configurable

Also allow to specify the SDK file name pattern and make the decompression
format agnostic.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: remove handling of unused repo url setting

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: make slave port configurable

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: make slave port configurable

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: build local tar before running downloads

The download make target requires a modern GNU tar with --sort support in order
to pack SCM archives.

As Debian still ships an older tar, explicitely build the local tools/tar
before invoking "make download".

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: always allow user clean targets

Also allow user clean targets if a tree expiry has been configured.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: remove automatic triggering of clean targets

Remove the automatic triggering of clean targets depending on the changed
files since the code for that is incompatible with BuildBot 0.8.9.

Instead, implement the ability to trigger specific clean steps through
build properties.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: remove isChangeBuiltin() handling

The builtin file detection logic is stubbed since quite a while already so
simply drop it now.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: initialize source.git on first start

Since phase1 needs an existing source.git to bootstrap its config, prepare
the git clone further processing.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase2: rsync based on checksum, not mtime

Instruct rsync to compare the file checksums, and not their modification times.
This should decrease the source and package upload volume significantly.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: rsync based on checksum, not mtime

Instruct rsync to compare the file checksums, and not their modification times.
This should decrease the source upload volume significantly.

Signed-off-by: Jo-Philipp Wich <jo@mein.io>

phase1: parallelize target/install phase

Signed-off-by: Jo-Philipp Wich <jo@mein.io>